Эксперт прокомментировал предложение разработчиков ИИ остановить работу на полгода
Технологии искусственного интеллекта (ИИ) повлияют на все сферы бизнеса. Так эксперт в сфере информационных технологий Аман Тентиев прокомментировал Vesti.kg предложение создателей современных моделей ИИ остановить разработку систем на шесть месяцев.
– В целом считаю, что Илон Маск и другие разработчики технологий искусственного интеллекта правильно поступили, что выразили обеспокоенность, — отметил он. – Но следует учитывать два момента. Во-первых, это корыстный интерес, потому что все, кто подписался под письмом, имеют свои продукты, на их разработку привлекаются средства, которые намерены продавать. Так как определенно технологии вроде GPT-4 повлияют практически на все сферы бизнеса. Во-вторых, действительно, никто не анализировал, как ведутся работы.
Эксперт заметил, что особенность самообучающихся систем – в их непредсказуемости.
– В случае появления продвинутых моделей ИИ никто не сможет спрогнозировать его следующие шаги, — полагает он. – Программа, никому не подконтрольная, способная проникнуть благодаря глобальной сети куда угодно, самостоятельно определяющая свои задачи. Это действительно большие риски. Способность искусственного интеллекта в теории контролировать все процессы, которым подчинена наша жизнь, может привести к результатам, какие мы обычно видели на экранах фантастических фильмов.
Бурный рост, как предполагает Аман Тентиев, вызван погоней разработчиков за капитализацией проектов.
– Стремясь обогнать конкурентов на данном рынке, упустили оценку возможности сдерживания ИИ в случае сбоя, к примеру, — подчеркнул он. – А это очень трудно. Как можно сдержать процесс, если он становится самообучаемым? Уровень самообучения в какой-то момент может стать таким, что людям не получится создать аналогичный сдерживающий фактор. И тогда мы уже ничего не сможем с этим поделать, он будет развиваться самостоятельно. А это грозит высокой неопределенностью.
Назвал эксперт и социальный риск, к которому может привести развитие систем искусственного интеллекта.
– Программы уже хорошо рисуют, создают тексты, помогают при обучении, консультируют людей по психологическим и другим вопросам, — пояснил он. – Их уровень постоянно растет, совершенствуется. Соответственно, и всем профессиям, сопричастным с этими умениями, грозит сокращение рабочих мест. Рост прибыли, сокращение расходов – это закономерно. Развитие этого вопроса не относится к далекому будущему. Возможно, уже в этом году люди начнут сталкиваться с подобной проблемой.
При этом Тентиев подтвердил, что уже имел опыт общения с современными чат-ботами семейства GPT, которые содержат в себе некоторые элементы ИИ.
– Конечно, пока это начальный уровень, — сказал он. – Но даже эти базовые версии уже впечатляют. В течение нескольких секунд могут предоставить решения на задачи разного рода.
Напомним, письмо с предложением остановить на полгода эксперименты с искусственным интеллектом мощнее GPT-4 было опубликовано на сайте некоммерческой организации Future of Life. Под ним подписались глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще около тысячи исследователей.
Авторы обращения опасаются, что конкурентоспособные системы ИИ могут повлечь потенциальные риски в виде экономических и политических потрясений, в частности массовые увольнения специалистов, которых может заменить искусственный интеллект, а также угрозы банковскому и фондовому секторам.
Систему ИИ GPT-4 OpenAI представила 14 марта. Модель способна интерпретировать не только текст, но и изображения. Она также распознает схематичные образы, в том числе и нарисованные от руки. Публиковать исследовательские материалы, лежащие в ее основе, в OpenAI отказались.
Другие участники сообщества искусственного интеллекта раскритиковали это решение, заметив, что оно подрывает дух компании как исследовательской организации и затрудняет воспроизведение ее работы другими. Одновременно это затрудняет разработку средств защиты от угроз, исходящих от систем ИИ.
