Каждый знаток научной фантастики знает, что хороший апокалипсис начинается и заканчивается искусственным интеллектом и комплексом бога. Главный вопрос в том, насколько мы к этому близко.
Возможно ли управлять существом, интеллект которого намного превосходит интеллект самого яркого и сообразительного человечества? Ряд ученых, философов и технических экспертов из международных образовательных учреждений старательно изучили этот риск. Ответ не утешает.
Авторы исследования представляют академические институты и технологические организации в США, Австралии и Испании. Они отметили, что в последние годы искусственный интеллект развивался невероятными темпами. Сейчас он существенно влияет на многие аспекты человеческой жизни, на то, как мы воспринимаем продукты и услуги.
Примеры этого включают улучшенную медицинскую диагностику с помощью обработки изображений, персонализированные рекомендации фильмов и книг, фильтрацию электронной почты и многое другое. Умные устройства, которыми мы пользуемся ежедневно, активируют множество приложений искусственного интеллекта. Те же смартфоны используют не только искусственный интеллект, но и запускают самообучающееся программное обеспечение и хранят почти бесконечную информацию о пользователе.
Искусственный интеллект выигрывает битву
Ученые отмечают способность машин побеждать лучшие человеческие умы в различных играх, таких как шахматы, покер, викторины и многое другое. Благодаря этому технологическому прогрессу мы переживаем возрождение обсуждения искусственного интеллекта как потенциальной катастрофы для человечества. Эти риски варьируются от машин, которые вызывают значительные сбои на рынке труда, до автономного оружия, которое может быть использовано против людей.
Исследователи утверждают, что наибольший риск представляет сверхразумный искусственный интеллект, который превосходит по своей мудрости лучший человеческий мозг во всех возможных областях.
У ИИ свои методы
Суперинтеллектуальный ИИ обладает инструментами для мобилизации различных ресурсов для достижения целей. Его методы могут быть не всегда понятны людям. Сверхразум, которому поставлена задача сделать мир счастливым, может подумать, что самым эффективным решением будет уничтожить жизнь на Земле и создать более быструю компьютерную симуляцию счастливых мыслей.
Исследователи утверждают, что способность современных компьютеров адаптироваться с использованием сложных алгоритмов машинного обучения затрудняет нам понимание или подготовку к возможности восстания такого суперразума. Риск в том, что один суперинтеллектуальный ИИ может хранить в своей памяти все возможные компьютерные программы одновременно. И любая программа, написанная для предотвращения причинения машинами вреда людям, может быть стерта или переписана заново. Без того, чтобы у нас был способ вовремя ее догнать или предотвратить.
Сейчас машины хранят всю нашу конфиденциальную информацию, а некоторые участвуют в полицейских или военных операциях по всему миру. Террористические организации постоянно совершают прорывы в этой области. В таких условиях сложно не заметить, что опасность явная и не надуманная, отмечает Jerusalem Post.
Тело как «Лего»: какую надежду дала человечеству клик-химияУченые выяснили, что маска от ковида делает человека более послушнымГигантский астероид почти уничтожил Землю: исследование
