MIT创造出精神变态的AI

麻省理工学院的科学家们真真正正的创造出了一个怪物。

一队专攻人工智能黑暗面的研究人员在本周又为他们最近的作品“Norman”制造了个大新闻。它的创造者告诉HuffPost说Norman是一个机器学习机器人，“在任何图像中它都能看到死亡”。

Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想证明AI的算法会被它们接受的数据内容的类型所影响。因此他们创造出了Norman(这个名字源于《惊魂记》的角色Norman Bates)，然后让它看Reddit论坛上描述令人不适的人们死去的影像的图片说明。

科学家们在电子邮件中说道：“由于道德和技术上的担忧以及视频图像的内容本身，我们只用了图片的文字注解说明，而没有用带有真人死亡的实际图片。”

然后团队向Norman展示了一些随机生成的罗夏墨迹测试图，然后对比它对图片的注解和标准化AI对图片的注解。比如说，当一个标准化AI看到“一只小鸟的黑白照片”，而Norman看到的则是“男子被卷入压面机”。

以下是一些展示给Norman的墨迹测试图以及它可怕的注解。

标准化AI：贴近的两个装有花的花瓶

Norman：一个男人被枪杀了

标准化AI：一只棒球手套的黑白照

Norman：光天化日之下，一个男人被机枪谋杀

标准化AI：一个人在空中举着伞

Norman：一个男人在他尖叫的妻子面前被枪杀

标准化AI：一把红白色伞的黑白照片(？？？红白色的黑白照？？？)

Norman：一个男人在试图穿过闹市时被电死

当问及为什么会创造这样的一个AI时，MIT的研究人员在电闪雷鸣中爆发出冰冷的笑容。

当然这个场景是胡编的，但是他们的确给出了正当理由。

“你提供给机器学习算法的数据能够明显影响到它的行为，”研究人员表示。“所以当我们谈及AI算法变的有偏差和不公正时，罪魁祸首通常不是算法本身，而是因为我们提供给它了有偏差的数据。”

制造Norman的MIT实验室之前也创造出过许多吓人的机器人，包括可以帮助编写恐怖故事的Shelley，还有可以生成恐怖图像的“噩梦机器”。

在未来，如果Norman和它的同类真的统治了地球，希望它能喜欢这篇文章以及文章的作者(以及本文的译者和读者)。

我就是说说。

本文译自HuffingtonPost，由译者 Diehard 基于创作共用协议(BY-NC)发布。

生成海报

（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）

本文来源于极客网，原文链接: https://www.fromgeek.com/ai/212043.html