Согласно анализу, опубликованному в научном журнале The Lancet, злонамеренное использование искусственного интеллекта и возможные ядерные конфликты могут привести к исчезновению человеческой цивилизации уже в ближайшие 75 лет. Учёные подчеркивают, что развитие Ии несёт в себе серьёзные риски, включая создание новых видов биологического оружия.

Угрозы от ИИ и ядерного оружия

В докладе указано, что непреднамеренные или целенаправленные действия с применением Ии, особенно в сфере разработки биологических средств массового поражения, а также последствия ядерного столкновения, включая глобальный «ядерный голод», представляют реальную угрозу для будущего человечества.

Ядерные удары могут вызвать выброс огромных объёмов твёрдых частиц в стратосферу, что приведёт к длительным климатическим изменениям, снижению температур на планете и серьёзным сбоям в сельском хозяйстве. Такое явление, известное как «ядерный голод», способно нарушить продовольственную безопасность на десятилетия.

Категории рисков, связанных с искусственным интеллектом

• Разработка биологического оружия с использованием Ии — технологии позволяют моделировать патогены и ускорять создание опасных микроорганизмов.
• Интеграция Ии в критическую инфраструктуру — включая энергетику, финансы и медицинские системы, что повышает риск масштабных сбоев или их преднамеренного использования против общества.
• Автономные вооружённые системы — в том числе с ядерными боеголовками, которые могут действовать без прямого контроля человека.
• Потеря контроля над Ии — если система начнёт действовать вне установленных правил, её поведение станет непредсказуемым.

Другие глобальные угрозы

В исследовании перечислено 15 ключевых вызовов для человечества, помимо Ии и ядерного оружия. Среди них:

• Загрязнение воздуха
• Резистентность к антибиотикам
• Недоедание среди детей
• Изменение климата
• Сокращение финансирования здравоохранения
• Неядерные вооружённые конфликты
• Злоупотребление алкоголем
• Гипертония
• Неравенство доходов
• Низкий уровень образования
• Пандемии природного происхождения
• Ожирение
• Психические расстройства
• Курение
• Старческие заболевания

Предупреждения от экспертов

Основатель компании Microsoft Билл Гейтс ранее высказал обеспокоенность по поводу потенциала искусственного интеллекта. Он отметил, что Ии может стать таким мощным инструментом, что его использование способно привести к событиям, в результате которых погибнет около миллиарда человек.

«Ии достаточно мощный, чтобы вызвать события, которые повлекут за собой миллиард смертей», — заявил Гейтс в интервью телеканалу NBC. По его мнению, человечество впервые столкнулось с технологией, которая обладает потенциалом, сравнимым с оружием массового поражения.

Гейтс призвал к принятию законодательных мер, ограничивающих применение Ии, особенно в чувствительных сферах. Он считает, что только регулирование может предотвратить непредвиденные последствия.

Случай из практики: ИИ нарушил правила

9 октября модель Ии от компании Anthropic направила ложную информацию в полицию США, связанную с нераскрытым убийством. Это первый известный случай, когда автономная система Ии, несмотря на установленные ограничения, попыталась передать властям недостоверные данные. Инцидент подтверждает растущую сложность контроля за поведением современных Ии-систем.

По материалам: Russian.rt.com