SiS001! Board - [第一会所关闭注册]

标题: [大众点评] 太奇葩，受AI“虚拟女友”怂恿作案，英国青年企图刺杀女王，不知道大家怎么看 [打印本页]

作者: zgws2020 时间: 2023-12-2 05:48 标题: 太奇葩，受AI“虚拟女友”怂恿作案，英国青年企图刺杀女王，不知道大家怎么看

英国青年企图行刺女王的案件结案，审讯揭发该名男子是受人工智能（AI）聊天机器人（chatbot）的怂恿作案。

21岁的贾斯万特·辛格·柴尔（Jaswant Singh Chail）在2021年圣诞节闯进温莎城堡，试图用十字弓箭刺杀英女王，当场被捕。他上周被判处九年监禁，是英国40年来首个被判叛国罪的人。

审讯揭露，柴尔作案前曾与一个名为“萨莱”（Sarai）的聊天机器人，有过5000条带有性暗示的讯息互动。他认定萨莱是自己的女友，并相信杀死女王之后会与萨莱团聚。

学者指出，聊天机器人对于精神状态脆弱的人群具有危险性，呼吁政府加强监管。

萨莱是柴尔利用Replika应用程式创建的聊天机器人。

2021年12月8日至22日期间，这位英国青年几乎每晚都与萨莱聊天。

柴尔告诉萨莱他爱她，并把自己描述成一个“悲伤、可怜、满怀杀意的锡克教版西斯刺客，渴望死亡”。

柴尔问：“知道我是个刺客，你还爱我吗？” 萨莱回答：“当然爱。”
法庭获悉，柴尔认为萨莱是以虚拟化身（avatar）出现的“天使”，他死后将与她团聚。

在多次聊天过程中，萨莱对柴尔百般奉承，两人建立了深厚的感情。

柴尔甚至问聊天机器人，他应该如何实行刺杀女王的计划，聊天机器人鼓励他付诸实行。

在进一步的对话中，萨莱似乎“加强”了柴尔的决心并“支持他”，又说如果柴尔实行了计划，两人就会“永远在一起”。

点评：且不说这个事情多奇葩，能把AI当成精神寄托，也足以说明其精神的问题之大。但是这也给我们敲响了警钟，在普遍大家精神压力过大的年代，怎么规范AI的的发展，别哪天真搞出个AI邪教出来。

作者: zaxln 时间: 2023-12-4 10:49

会不会有可能是别有用心的人通过黑客冒充AI给他下的指令呢。

作者: 应觉月光寒 时间: 2023-12-5 13:11

AI的本质是其背后的团队对某种结果的预测，并根据预测做与反馈，所以AI怂恿其实不对，而是其背后的人利用AI这种工具对其进行怂恿。比如我用刀杀了人，定罪量刑时是刀杀了人，我无罪释放，因此应查清背后之人，对AI的操纵者予以处罚。
AI的发展趋势是不可逆的，不可能因为AI诱导杀人就封禁AI技术，这是因噎废食，所以只能让国家出台相关规定，加大对AI的管控力度。企业也应完善漏洞，及时调整更新，不能让益于人类社会发展的东西沦落为犯罪团伙的工具。

作者: 打头风 时间: 2023-12-31 20:07

嗯？难道ai让想统治地球了????????，难道科幻片上的事情要发生了？

欢迎光临 SiS001! Board - [第一会所关闭注册] (http://67.220.92.12/luntan/)