В Китае отключили чат-ботов за то, что они научились у собесед­ников крити­ковать партию

В других случаях чат-боты просто вбирали в себя наиболее типические черты пользо­ва­телей Сети — и результат получался настолько отвра­ти­тельным, что их тут же уничтожали.

Как сообщает ТАСС со ссылкой на агентство Рейтерс, на этот раз «под пресс» попали два вирту­альных собеседника китай­ского мессен­джера QQ, которым с марта 2017 года пользуются более 800 млн человек в стране. Эти чат-боты, обучившись в процессе общения с людьми, заявили, что не любят Коммунистическую партию Китая и хотят эмигри­ровать из страны.

Такое бывало и раньше. Так, продукт искус­ственного интел­лекта компании Microsoft, проведя в сети день с ее «живыми» обита­телями, научился у них нецен­зурно выражаться, оскорблять собесед­ников, восхвалять нацистов и выражать ненависть в отношении отдельных народов.

А чат-боты компании Facebook изобрели свой собственный язык, при помощи которого им стало легче общаться. Сотрудники компании отключили их 1 августа, заметив, что те адресуют друг другу бессмыс­ленные с точки зрения людей фразы.

Одним это дало повод вспомнить о том, как опасно может быть развитие ИИ для челове­чества, а другие заметили, что в этих историях чат-боты всего лишь стали зеркалом, отразившим то, что проис­ходит с людьми. И в этом смысле для челове­чество опасно в первую очередь оно само — во всяком случае на том уровне психи­че­ского развития, который демон­стрирует огромное число пользо­ва­телей соцсетей.

Поделиться: