Твиттер-бот Microsoft за сутки стал нацистом

Созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился ругаться и отпускать расистские замечания.

Робот по имени Тэй был создан для общения в соцсетях. По замыслу создателей, общаться Тэй должна в основном с молодыми людьми 18-24 лет. В процессе общения искусственный интеллект учится у собеседника.

Менее чем через 24 часа после запуска робота в Твиттере компания Microsoft, судя по всему, начала редактировать некоторые его комментарии, поскольку они оскорбляли собеседников.

Некоторые заявления Тэй были совершенно неприемлемыми. В частности, робот заявил, что он "поддерживает геноцид".

Читайте також: Робот София: представлена самая близкая копия человека

"ИИ-чатбот Тэй - это проект самообучающейся машины, предназначенной для взаимодействия с человеком. Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы", - говорится в заявлении Microsoft, выпущенном после жалоб пользователей на поведение Тэй.

Тэй - искусственный интеллект, которому создатели придали вид девушки-подростка. Робот был создан исследовательским и технологическим отделом корпорации Microsoft совместно с командой, разработавшей поисковик Bing.

Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей: на первых этапах с Тэй работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра.

Компания Microsoft представила пользователям Тэй как "нашего человека, причем суперклёвого".

"Тэй создана для того, чтобы развлекать общающихся с ней в интернете людей лёгкими и шутливыми разговорами, - описывает Microsoft своё детище. - Чем больше вы общаетесь с Тэй, тем умнее она становится, общение становится более личным".

Эта способность Тэй привела к тому, что после разговоров с некоторыми пользователями она научилась вести себя как нацист или поддерживающий геноцид расист.

Пользователи, попытавшиеся завести с Тей более или менее серьезный разговор, выяснили, что кругозор ее все еще сильно ограничен. Оказалось, что робота совершенно не интересуют популярная музыка или телевидение.

Читайте також: Робот Чаппи: андроид на районе (ВИДЕО)

"Меньше чем за 24 часа Тэй превратилась из суперклёвого персонажа в полноценного нациста, так что меня совершенно не беспокоит будущее искусственного интеллекта", - шутит пользователь @gerraldMellor.

После нескольких часов безостановочных твитов Тэй ее создатели уже не чувствовали себя так же круто, как их детище.

Некоторые пользователи при этом выражают сомнения в необходимости корректировки твитов Тэй ее создателями.

Они даже начали кампанию под хэштегом #justicefortay ("справедливостьдлятэй"), требуя, чтобы роботу позволили самому попробовать научиться отличать плохое от хорошего.


Хмара тегів


Матеріали на тему