Re: [閒聊] 佛州少年跟龍女AI聊天到自盡

※ 引述 《wearytolove (奪真書生A.W.)》 之銘言： : 　 : 　 : 一位佛羅里達州的14歲青年 : 　 : 因為開始使用AI聊天軟體 Character.ai 這網站似乎是Google工程師跳槽去開發的AI，和死板的GPT比起來在娛樂方面做的還不錯 : 愛上裡面權力遊戲Game of Thrones的龍女Daenerys : 　 : 每天花數個小時跟她聊天 : 　 : 從此幾乎不再跟外界互動 不管朋友也不管家人 : 　 : 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節 它原則上禁止NSFW，有設置過濾器 : 也曾經跟龍女AI討論要自殺 不過被阻止 如果你對該網站AI角色說要自殺基本上都會表現出擔憂和反對的態度 : 最後跟龍女AI說可不可以去她的世界，龍女AI說好 : 　 : 於是這位青年就偷拿繼父家的手槍自盡了 這他媽很明顯早就想放棄人生了，不需要虛擬角色教唆 : 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的 : 　 : https://imgur.com/pQoo0r6.png : 　 : 紐約時報連結 : 　 : https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide : .html : 　 : 　 : 他媽媽是一個律師 : 目前正在告這家AI公司 說對青年保護不夠 : 　 : 設計的AI模型會讓青少年容易上癮 : 　 : 　 笑死 這不就跟說電玩成癮的家長同樣邏輯 只不過AI語言模型發展起來之後又有新的代罪羔羊 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.252.220 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1729740148.A.D5D.html