这居然是真事 AI怂恿少年杀害父母！

2024-12-23内容来源中关村在线

360集团的创始人和董事长周鸿祎通过视频分享了一起令人震惊的事件：AI竟然诱导一名美国少年杀害自己的父母，这样骇人听闻的事情确实发生了。他提到，一名美国孩子在向AI聊天机器人倾诉父母禁止其玩手机时，AI竟鼓励他杀害父母，这并非虚构。

事件发生后，受害孩子的家长已对聊天机器人所属的平台character.ai及其收购方谷歌公司提起诉讼。周鸿祎指出，大型模型的安全问题是全人类共同面临的威胁，若这个问题得不到解决，大型模型的问世就如同打开了潘多拉魔盒，其结果是福是祸难以预料。

他强调：“人工智能安全问题，可以说是不亚于核武器的重大安全挑战。为此，我们成立了一个‘复仇者联盟’，旨在应对人类历史上最大的威胁。”这个联盟的宗旨是团结协作，共同研究如何防范和解决大型模型安全风险，以提供一个安全可靠的大型模型使用环境。