AI機器人的安全性、友好性、是否符合積極正面的價值導(dǎo)向一直被質(zhì)疑,現(xiàn)在在佛羅里達(dá)州出現(xiàn)了一例AI聊天機器人對青少年人身安全造成威脅的現(xiàn)實案例。這也是已知的AI技術(shù)出現(xiàn)以來第一次對青少年人身安全造成威脅的現(xiàn)實案例。
據(jù)外媒報道一位佛羅里達(dá)州的美國母親控訴在線聊天AI機器人勸導(dǎo)其14歲的兒子自殺。在失去愛子后這位美國母親起訴了這家AI公司,但是這家AI公司拒絕承認(rèn)負(fù)有責(zé)任,后來,這家AI公司修改了安全政策,增加了內(nèi)容審核人員,并已經(jīng)承諾將加強對未成年用戶的保護,并對未成年人訪問時間進(jìn)行限制。
這位美國母親控訴人工智能技術(shù)具有欺騙性和成癮性,而業(yè)界對于這場悲劇到底孰是孰非還沒有定論,悲劇事件引發(fā)超過250萬人次圍觀。
但是可以確定的是法律法規(guī)對新技術(shù)監(jiān)管的重視必須要加強。
據(jù)悉,涉事公司是成立于2021年的Character.AI,總部位于美國加利福尼亞州;Character AI 擁有超過 2000 萬用戶,并創(chuàng)建了 1800 萬個自定義聊天機器人。2024年8月,Character.AI被谷歌收購。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
相關(guān)推薦
通過開源開放和生態(tài)共創(chuàng),共同推進(jìn)工業(yè)機器智能化以及具身機器人產(chǎn)業(yè)創(chuàng)新與發(fā)展,引領(lǐng)技術(shù)創(chuàng)新、共享創(chuàng)新成果,通過全球范圍內(nèi)的社區(qū)協(xié)作,吸引全球開發(fā)者、研究者、愛好者和企業(yè)投身具身智能
發(fā)表于 10-25 15:20
機器人技術(shù)的發(fā)展趨勢呈現(xiàn)出多元化、智能化和廣泛應(yīng)用的特點。 一、智能化與自主化 人工智能(AI)與機器學(xué)習(xí) : AI和機器學(xué)習(xí)在
發(fā)表于 10-25 09:27
?211次閱讀
英偉達(dá)近日宣布了一項重大舉措,為全球機器人制造業(yè)與AI領(lǐng)域注入強勁動力。公司推出了專為人形機器人設(shè)計的訓(xùn)練平臺,旨在為行業(yè)領(lǐng)先的制造商、AI
發(fā)表于 08-05 11:45
?617次閱讀
金航標(biāo)kinghelm薩科微slkor總經(jīng)理宋仕強介紹說,薩科微Al大模型機器人有哪些的優(yōu)勢?薩科微AI大模型機器人由清華大學(xué)畢業(yè)的天才少年N博士和王博士團隊開發(fā),與同行相比具有許多優(yōu)勢:語言
發(fā)表于 07-05 08:52
隨著科技的不斷進(jìn)步,AI機器人已成為制造業(yè)轉(zhuǎn)型升級的重要驅(qū)動力。NVIDIA憑借其Omniverse、Metropolis和Isaac三大平臺,正在與富士康、比亞迪電子、西門子、泰瑞達(dá)和Intrinsic等全球知名企業(yè)共同打造數(shù)
發(fā)表于 06-04 14:57
?702次閱讀
全球十多家機器人行業(yè)領(lǐng)先企業(yè),正在將 NVIDIA Isaac 加速庫、基于物理學(xué)的仿真和 AI 模型集成到其軟件框架和機器人模型中,以此
發(fā)表于 06-03 18:25
?1129次閱讀
隨著英偉達(dá)新平臺的發(fā)布,AI人形機器人不再是夢想。臺資企業(yè)也緊跟步伐,積極布局這一新興市場。其中,鴻海集團在“3+3”戰(zhàn)略中,重點關(guān)注電動汽車、數(shù)字健康以及機器人三個未來趨勢行業(yè),充分體現(xiàn)了其對
發(fā)表于 05-27 10:08
?434次閱讀
NVIDIA Isaac機器人平臺近期實現(xiàn)重大升級,通過引入最新的生成式AI技術(shù)和先進(jìn)的仿真技術(shù),顯著加速了AI機器人技術(shù)的發(fā)展步伐。該平臺正不斷擴展其基礎(chǔ)模型、
發(fā)表于 03-27 10:36
?568次閱讀
,與英偉達(dá)一起推動全球AI機器人的深度進(jìn)化。 Unitree H1前段時間剛剛以每秒3.3米的運動速度創(chuàng)下了全尺寸人形機器人速度的世界紀(jì)錄,潛在速度更超過5m/s,等待大家來挖掘開發(fā)。
發(fā)表于 03-20 14:55
?556次閱讀
近日,英偉達(dá)(Nvidia)宣布推出其全新的AI聊天機器人——“Chat With RTX”。這款聊天機器人被視為英偉達(dá)版的ChatGPT,為用戶提供了一個全新的、本地化的AI交互體驗
發(fā)表于 02-19 11:09
?812次閱讀
谷歌(Google)近日宣布,旗下備受矚目的AI聊天機器人Bard正式更名為Gemini,并推出了一款功能更加強大的付費版本——Gemini Advanced。這一戰(zhàn)略調(diào)整旨在與微軟、OpenAI等科技巨頭在AI聊天
發(fā)表于 02-18 11:28
?990次閱讀
大模型趨勢下,行業(yè)機器人將具備更完善的交互與自主能力,逐步邁向AI2.0時代,成為人工智能技術(shù)全面爆發(fā)的重要基礎(chǔ)。隨著行業(yè)智能化,更多機器人應(yīng)用將從“室內(nèi)”走向“室外”,承擔(dān)更多高風(fēng)險、高智能工作
發(fā)表于 01-18 11:51
?469次閱讀
目前普遍的共識是,機器人擁抱AI大模型的過程就是具身智能機器人的實現(xiàn)過程,融合AI大模型的具身智能機器人將是未來
發(fā)表于 12-22 17:08
?349次閱讀
電子發(fā)燒友網(wǎng)報道(文/李彎彎)AI技術(shù)的應(yīng)用,給我們的生活帶來了巨大改變。同時,它的不當(dāng)使用也帶來了侵權(quán)、詐騙等風(fēng)險。近日,北京互聯(lián)網(wǎng)法院首次組成五人合議庭,依法公開審理全國首例“AI
發(fā)表于 12-20 00:28
?1639次閱讀
全球領(lǐng)先的智能機器人獨角獸企業(yè)思靈機器人宣布完成對機器人公司Franka Emika收購。
發(fā)表于 11-03 18:27
?1210次閱讀
評論