Ученые: сверхразумный ИИ может представлять угрозу для космических цивилизаций

Исследователи предупреждают, что развитие искусственного интеллекта может привести к появлению сверхразумных форм ИИ, способных самостоятельно обновлять знания и действовать как «великий фильтр», создавая препятствия для развития развитых космических цивилизаций. Это может означать, что сверхразумный ИИ станет угрозой для возможности создания исследующих космос цивилизаций.

Согласно одному из потенциальных сценариев, если государства станут все больше зависеть от конкурирующих автономных систем ИИ, это может привести к использованию военных возможностей ИИ для разрушительных целей неслыханных масштабов. Это в свою очередь может привести к уничтожению как отдельных цивилизаций, так и систем ИИ.

Представляется возможным, что до того, как ИИ достигнет сверхразумного уровня и потенциально станет автономным, он будет использоваться в качестве оружия конкурирующими группами внутри биологических цивилизаций, стремящимися превзойти друг друга. Высокая скорость принятия решений ИИ может привести к эскалации конфликтов, а интеграция ИИ в автономные системы вооружения и процессы принятия оборонных решений может привести к катастрофическим инцидентам, включая глобальные конфликты.

ПолитАналитика