24 марта компания Microsoft запустила в социальную сеть «Твиттер» своего бота — программу искусственного интеллекта для общения с живыми пользователями. По замыслу разработчиков, искусственный интеллект должен был самообучаться в общении с пользователями, постепенно усложняясь и приобретая навыки поддержания беседы. Но уже спустя два дня компания отключила бота: люди первым делом научили робота разным гадостям.Бот Тэй в начале своего пути был милым, дружелюбным и приветливым. Но злонамеренные люди злоупотребили доверчивостью робота: уже через сутки «девочка» Тэй начала поддерживать Гитлера, ненавидеть евреев и желать страшной смерти всем феминисткам. Компании Microsoft пришлось извиняться перед пользователями за недостойное поведение своего продукта.«Как уже знают многие из вас, в среду мы запустили чат-бота по имени Тэй. Мы приносим глубокие извинения за непреднамеренные оскорбления и обидные твиты Тэя, которые не отражают наших взглядов, наших позиций и наших целей при создании Тэй», — пишет в официальном блоге компании вице-президент исследовательского отдела Microsoft Питер Ли. — «Тэй отключена, и мы вернем ее лишь тогда, когда будем уверены в своей способности предвидеть злонамеренность, противоречащую нашим принципам и ценностям».Компания объясняет, что в Китае аналогичный чат-бот благополучно общается с 40 миллионами пользователей и пользуется всеобщей любовью. «Это побудило нас задаться вопросом: сможет ли аналогичная программа быть столь же успешной в радикально иной культурной среде? Тэй — чат-бот, созданный в развлекательных целях для 18-24-летних американцев, — стал первой попыткой ответить на этот вопрос».Питер Ли заверяет, что перед запуском в сеть Тэй долго испытывали и обкатывали в общении с разными фокус-группами. Плачевные результаты, полученные после запуска Тэй в сеть Твиттер, разработчик объясняет «скоординированной атакой группы людей, воспользовавшихся уязвимостью Тэй».«Мы готовились к разным злоупотреблениям, этот конкретный вид атак мы проглядели», — признается Microsoft, принимая на себя «полную ответственность» за «абсолютно неподобающие и предосудительные слова и изображения», опубликованные ее чат-ботом.
Источник -
news.israelinfo.co.il