Маск, Возняк и более 1000 экспертов призвали приостановить обучение нейросетей

Маск, Возняк и более 1000 экспертов призвали приостановить обучение нейросетей

Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк, а также свыше тысячи экспертов в области искусственного интеллекта и представителей IT-индустрии подписали открытое письмо с призывом как минимум на полгода приостановить обучение нейросетей более производительных, чем недавно представленная GPT-4 компании OpenAI.

По их мнению, мораторий необходимо ввести немедленно, поскольку существуют серьезные риски для общества. Текст письма опубликовал некоммерческий Институт будущего жизни (Future of Life Institute).

Авторы призвали «поставить на паузу» разработку ИИ до тех пор, пока для отрасли не разработают общие протоколы и стандарты безопасности, применение которых будет контролироваться независимыми аудиторами.

В письме подчеркивается, что мощные нейросети должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны ИИ-систем, способных конкурировать с человеком, поскольку такая конкуренция может привести к экономическим и политическим потрясениям.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества. Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать искусственные разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?», - говорится в письме.

Развитием ИИ обеспокоен и Европол, предупредивший о возможности злоупотребления нейросетями вроде ChatGPT в противозаконных целях – их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

Представленный прошлой осенью чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, совершил столь значительный рывок в развитии и показал столь впечатляющие результаты, что все крупные IT-компании срочно активизировали разработку собственных проектов в данном направлении. Любопытно, что глава OpenAI Сэм Альтман не стал подписывать письмо, а в самой фирме от комментариев отказались.

Эксперты отмечают, что разработку ИИ необходимо приостановить, пока человечество не начнет лучше понимать масштаб последствий от их внедрения. Тем более что крупные игроки хранят в тайне информацию о том, над чем они работают – поэтому обществу будет трудно отреагировать, защититься и справиться с возможными проблемами.

Подписывайтесь на наш TELEGRAM-канал, там новости выходят быстрее


Аэропорт Праги восстановил работу после глобального IT-сбоя и назвал число затронутых рейсов
Идея выходного дня: едем гулять по великолепному Нюрнбергу