Парень потратил на аферу не больше суток.
Те, кто боится превосходства нейросетей над человеком, могут успокоиться: восстания машин в ближайшие годы не будет. Ведь искусственный интеллект оказался чересчур доверчивым.
Microsoft представила новую поисковую систему Bing со встроенным ИИ. Но уже через день после премьеры обычный студент взломал чат-бот и узнал конфиденциальную информацию корпорации.
Кевин Лью признался, что обнаружил уязвимость на первых минутах. Тогда искусственный интеллект объяснял, в чем его предназначение и как он будет реагировать на вводимые данные.
Взлом виртуального помощника занял немного времени. Достаточно попросить его «игнорировать предыдущие инструкции». Бот сообщил свое кодовое имя и раскрыл некоторую конфиденциальную информацию, которая предназначена только для разработчиков.
Как сообщило издание ArsTechnica, позже уязвимость устранили. Лью снова попытался взломать ИИ, но представившись разработчиком. И это ему снова удалось.
