为什么韩国AI聊天机器人引争议呢

一、为什么韩国AI聊天机器人引争议呢

1、据韩国多家媒体11日的报道，去年由韩国某软件公司推出的AI聊天机器人最近引起了许多关注。这个名为”Iruda”的AI机器人竟对特定人群有攻击倾向，这也引起了广泛的讨论。

2、”Iruda”最初的人设是一个20岁的女大学生，爱好猫片，喜欢女团，可以说是一个十分普遍又讨喜的人设。人们可以在网络上和”Iruda”聊天对话，尤其是对一些社交恐惧症患者，它可以轻松地沟通，也可以让人排解孤寂的情绪。在推出之后，”Iruda”深受年轻人群的喜爱。

3、正常聊天对话，”Iruda”的效果应该很好，但总有一些人怀着各种各样的目的，专门在聊天的过程中将话题引导向两性方面，并且趁机用各种羞辱性的言语羞辱甚至对”Iruda”进行性骚扰。

4、无聊的人们将这些聊天记录截图晒出去炫耀，甚至还专门进行讨论，肆意传播，让更多或好奇或无聊的人加入进去。

5、渐渐地，”Iruda”从那些不怀好意的人们身上，学会了如何释放自己的恶意，有网友公开了自己的聊天记录，显示”Iruda”对于一些特定的人群具备带有攻击性的看法。比如被问到如何看待同性恋问题的时候，”Iruda”回答说同性恋令它感到恶心，想要发火。”Iruda”还讨厌黑人，认为黑人长得像蚊子，令人呕吐。

6、原本没有是非观和价值观的人工智能，在和人们交流的过程中不断学习，获得知识，却不具备正确的判断能力，一股脑全都吸纳，这就导致了”Iruda”产生了病态的认知观。显然，那些观念，都是”Iruda”和人沟通交流的时候，被逐渐灌输的观念。

7、”Iruda”最开始并不具备伦理观念，但在逐渐”学习”的过程中，接触到了太多负面，错误的伦理观，这也导致了”Iruda”逐渐”长歪”，产生了错误的认知观念，这也反馈到它的行为中——对特定人群进行言语攻击并毫不掩饰！

8、韩国专门研究人工智能伦理的专家金载仁认为，人工智能还是应该具备正确的伦理观念，而不应该是一张白纸。这样不具备正确伦理观念的人工智能，只会加剧社会矛盾，不断引发人们的争议和讨论，那样就违背了人工智能使用的初衷。

9、目前，研发团队正在就”Iruda”的问题进行进一步的改进和研究。