Более 1300 экспертов, включая основателя Apple Стива Возняка и магната Илона Маска, подписали открытое письмо на сайте Американского Института будущего жизни, призывая к введению моратория на обучение мощных нейросетей. Они предупреждают о возможных угрозах, которые могут поставить под угрозу будущее человечества.
В последнее время лаборатории искусственного интеллекта (ИИ) втянулись в бесконтрольную гонку за созданием все более мощных машин, которые никто не может прогнозировать или надежно контролировать. Эксперты призывают к остановке обучения системам ИИ, более мощным, чем GPT-4, на период не менее 6 месяцев. Пауза должна быть публичной и поддающейся проверке. Если такая пауза не может быть введена быстро, правительствам следует вмешаться и ввести мораторий.
Это время нужно использовать для внедрения общих протоколов безопасности, чтобы избежать создания непредсказуемого «черного ящика», который уже никто не сможет обуздать. Разговоры о рисках ИИ усилились после распространения ChatGPT, который, как многие опасаются, может уничтожить традиционное образование.
Сегодня люди должны задуматься, готовы ли они позволить машинам наводнять информационные каналы, автоматизировать все рабочие места и развивать ИИ. Мощные системы ИИ должны быть управляемыми, а их применение — иметь гарантированный положительный эффект. Эксперты призывают к ответственному подходу к развитию ИИ, чтобы обеспечить безопасность и благополучие человечества.