Илон Маск и ряд экспертов призвали вчера приостановить разработку мощных систем искусственного интеллекта (ИИ), чтобы дать время убедиться в их безопасности.
Открытое письмо , подписанное к моменту публикации 1377 человеком, включая Маска и соучредителя Apple Стива Возняка, было вызвано выпуском фирмой OpenAI, поддерживаемой Microsoft, новой версии GPT-4.
Компания заявляет, что ее последняя модель намного мощнее, чем предыдущая версия, которая использовалась для работы ChatGPT, бота, способного генерировать фрагменты текста из самых кратких подсказок.
«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества», — говорится в открытом письме под названием «Приостановить гигантские эксперименты с искусственным интеллектом».
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в сообщении.
Маск был первоначальным инвестором OpenAI, провел годы в его совете директоров, а его автомобильная фирма Tesla разрабатывает системы искусственного интеллекта, которые, помимо прочего, помогают использовать технологию автономного вождения.
Письмо, размещенное Институтом будущего жизни, финансируемым Маском, было подписано известными критиками, а также конкурентами OpenAI, такими как руководитель Stability AI Эмад Мостак.
Канадский пионер искусственного интеллекта Йошуа Бенжио, также подписавший соглашение, на виртуальной пресс-конференции в Монреале предупредил, что «общество не готово» к этому мощному инструменту и его возможным злоупотреблениям.
«Давайте замедлимся. Давайте позаботимся о том, чтобы мы разработали более совершенные ограждения, — сказал он, призвав к тщательному международному обсуждению ИИ и его последствий, — как мы сделали это в отношении ядерной энергетики и ядерного оружия».
