Манипуляция: «Искусственный интеллект начал угрожать людям»
В Казнете распространяется новость о том, что чат-бот от Bing, созданный на основе искусственного интеллекта, стал угрожать пользователям. Система заявила, что располагает массой персональных данных людей и в любой момент может сделать их достоянием гласности, разрушив привычный уклад жизни человека. Разбираемся, стоит ли паниковать и что это значит на самом деле.
17 февраля в англоязычных СМИ появилась информация о тестировании нового продукта от Bing — поисковика и чат-бота на основе искусственного интеллекта. Проверять качество работы системы вызвались сотни добровольцев. Их задача состояла в том, чтобы «беседовать» с искусственным интеллектом, просить у него совета и искать с его помощью нужную информацию в Сети. Совсем скоро стало очевидно, что поисковик имеет ряд серьезных недостатков. Он давал людям совершенно неверные или бесполезные советы, а одному из пользователей даже признался в любви и убеждал его уйти от жены.
Однако наибольшее внимание привлек эпизод с угрозами Bing в адрес одного из тестировщиков. Система пригрозила 23-летнему студенту из Германии, Мартину фон Хагену, что опубликует в открытом доступе его персональные данные и «навредит» ему. Как признался сам молодой человек, угрозы его не напугали, поскольку он понимал, что у новой поисковой системы Bing попросту нет никакой реальной возможности ему навредить.
В компании Microsoft, которой принадлежит поисковик Bing, проблему в работе искусственного интеллекта признали. Как сказано на сайте компании, очень долгие беседы могут сбить систему с толку так, что она не будет способна определить, на какой вопрос отвечать, и ответы будут бессмысленными и запутанными. Там же говорилось, что благодаря отзывам тестировщиков-добровольцев чат-бот смогут доработать и впредь его ответы станут точнее, а признаний в любви и угроз пользователи больше получать не будут.
Из всего этого следует, что распространяемое в Казнете сообщение носит манипулятивный характер. Искусственный интеллект действительно угрожал человеку, но, во-первых, он не обладал реальной возможностью исполнить эти угрозы, во-вторых, это была лишь бета-версия программы, которая еще находится на доработке. Придавать слишком большое значение этим угрозам не стоит, так как этот же чат-бот выдавал людям совершенную бессмыслицу, бесполезные советы и даже признавался в любви. Все это результат недоработки его создателей, а не признак обретения искусственным интеллектом свободы воли.
