Самообучающаяся машина, которая в 2011 году обыграла участников телевикторины Jeopardy, начала грубить своим разработчикам после того как в нее загрузили словарь уличного жаргона с Urban Dictionary
Watson умеет великолепно распознавать смысл вопросов и отвечать на них. Для этого ему, разумеется нужна информация – неструктурированные массивы данных, обрабатывая которые он подбирает максимально адекватные ответы.
Так, победить в Jeopardy он смог благодаря тому, что в него была загружена информация по самым разным наукам. После этого Watson взялся за изучение медицины, чтобы научиться диагностировать болезни по их симптомам.
И вот, один из сотрудников проекта Эрик Браун тайком от коллег загрузил в него словарь уличного сленга, полагая что компьютеру это пойдет на пользу. Не подумал господин Браун.
Watson вскоре начал припечатывать разработчиков уличным и сетевым лексиконом, отвечая на вопросы словечками вроде «bullshit», LOL и WTF.
Причину этого хамства обнаружили быстро: у компьютера в отличие от человека нет понятий «прилично» или «не прилично». Для него любое слово – это только информационная единица.
Попутно выяснилось, что такой скотиной Watson стал не только из-за похабного словарика, но и из-за Wikipedia, к которой он имел постоянный доступ и где читал не только статьи, но и комментарии пользователей.
В общем, пришлось почистить компьютеру память, чтобы на следующей Jeopardy он не отмочил что-нибудь в прямом эфире. Также, разработчики установили словарные фильтры, чтобы хоть как-то оградить интеллектуальную машину от людского бескультурья.
Источник: itproportal.com
