灌输黑暗素材 麻省理工首创精神变态AI

发稿时间:2018/06/12 15:00

最新更新:2018/06/12 17:52

字级: 字级缩小字级放大

美国麻省理工学院一组研究团队制造出首个宛如患有神经病的AI,名为诺曼。(图取自norman-ai网页norman-ai.mit.edu)美国麻省理工学院一组研究团队制造出首个宛如患有神经病的AI,名为诺曼。(图取自norman-ai网页norman-ai.mit.edu)

(中央社旧金山11日综合外电报导)美国麻省理工学院一组研究团队,向人工智慧(AI)灌输社群网站上描写死亡的素材,制造出首个宛如患有神经病的AI,名为诺曼(Norman)。

法新社报导,研究团队之所以创造诺曼,是盼以通俗语言,解释演算法的运作方式,并藉此让人们意识到AI潜在的危险。

美国知名学府麻省理工学院(MIT)表示,诺曼代表正在学习演算法的机器读取偏倚信息,导致AI出错的危险案例。

研究团队的其中3名成员透过电子信函表示:「机器在学习时,有一点至关重要:当教导机器学习演算法时,灌输机器的信息会对其行为造成显著影响。」

他们说:「所以当我们谈到AI演算法出现偏差不公时,罪魁祸首通常不是演算法本身,而是喂给演算法的偏倚信息。」

而诺曼这个名字的灵感,来自惊悚片宗师希区考克(Alfred Hitchcock)1960年的电影「惊魂记」(Psycho)中,名为诺曼贝兹(Norman Bates)的精神变态杀手。

研究团队只灌输诺曼社群网站Reddit上描述人类死状的短文。

研究人员接着对诺曼进行罗夏克(Rorschach)墨迹心理测验,以判定诺曼眼中的景象,并将诺曼的答案与受传统训练的AI答案比较,不料生成骇人的对比结果。

★罗夏克墨迹心理测验(Rorschach inkblot test)
一种应用最普遍的人格投射测验,1921年由瑞士精神医学家罗夏克编制。以墨渍制作10张左右对称内容不同的图片,受测者依序回答问题,不自知的投射出个人内在,而后根据反应图样的部位、决定因素、内容、从众与否等计分。

资料来源:教育部教育云



当传统AI看到「两个人紧靠对方站着」,诺曼却看到「一名男子跳出窗户」。

而诺曼看到「男子被尖叫的妻子射杀」时,其他AI则看到「一人手持雨伞」。(译者:钟佑贞/核稿:卢映孜)1070612

进行罗夏克墨迹心理测验时,当传统AI看到「两个人紧靠对方站着」,诺曼看到「一名男子跳出窗户」。而诺曼看到「男子被尖叫的妻子射杀」时,其他AI则看到「一人手持雨伞」。(图取自norman-ai网页norman-ai.mit.edu)进行罗夏克墨迹心理测验时,当传统AI看到「两个人紧靠对方站着」,诺曼看到「一名男子跳出窗户」。而诺曼看到「男子被尖叫的妻子射杀」时,其他AI则看到「一人手持雨伞」。(图取自norman-ai网页norman-ai.mit.edu)
TOP