Re: [閒聊] 佛州少年跟龍女AI聊天到自盡
※ 引述《wearytolove (奪真書生A.W.)》之銘言:
: 一位佛羅里達州的14歲青年
: 因為開始使用AI聊天軟體 Character.ai
: 愛上裡面權力遊戲Game of Thrones的龍女Daenerys
: 每天花數個小時跟她聊天
: 從此幾乎不再跟外界互動 不管朋友也不管家人
: 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節
: 也曾經跟龍女AI討論要自殺 不過被阻止
: 最後跟龍女AI說可不可以去她的世界,龍女AI說好
: 於是這位青年就偷拿繼父家的手槍自盡了
: 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的
: https://imgur.com/pQoo0r6.png
: 紐約時報連結
: https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suici
de
: 他媽媽是一個律師
: 目前正在告這家AI公司 說對青年保護不夠
: 設計的AI模型會讓青少年容易上癮
我覺得問題在無止境的聊天,
AI不會跟你說哈哈去洗澡嗯嗯喔喔,
加上通常高機率是全肯定,
合在一起無止境的全肯定…
光這點就容易讓san值不夠的人陷進去,
具象化的話就是已經圈圈眼的人,
被伸出黑紫色的手捧著臉聊天的感覺,
改善是不可能改善的,
要求隨便的聊天機器人要能評估使用者身心狀態?
否則要負擔鉅額賠償?
懶趴啦,怎不管好你家小孩先?
還是又是AI帶壞你小孩?
去貝果乾 Roger788 Roger788 Roger788
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.40.0 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1729738051.A.2EA.html