С развитием искусственного интеллекта возникают новые вызовы: безопасность данных, границы автономности ИИ-агентов, сохранение человеческого контроля и распределение ответственности за решения. Эти вопросы обсудили в рамках сессии «Глобальный диалог об этике ИИ: экспертный форум о новых вызовах».
Заместитель руководителя комитета Международной ассоциации права по вопросам ИИ и технологического права Химена София Виверос Альварес отметила, что развитие искусственного интеллекта требует не столько создания новых этических принципов, сколько их практического применения. В качестве примера она привела рекомендации ЮНЕСКО по этике ИИ, принятые 190 странами, подчеркнув важность контроля за соблюдением этих принципов в разных государствах и правовых системах.
«Нужно обмениваться опытом, определениями, понятиями. Нужны единые институты, нужны разные аспекты и признанные принципы, которыми мы можем делиться так, чтобы мы вместе двигались в едином направлении и к единой цели», – добавила она.
О том, что развитие агентного искусственного интеллекта повышает риски и усложняет вопросы этики, рассказала генеральный директор Fadwa AlBawardi Consulting Office Фадва Аль Баварди.
По её словам, необходимо сохранять человеческий контроль над действиями ИИ и обеспечивать соблюдение базовых принципов – подотчётности, безопасности, справедливости и уважения к человеку.
В свою очередь основатель, генеральный директор The AI SCHOOL и DeepAnnotate.ai Ганта Шринат Редди отметил, что в условиях быстрого развития ИИ становится сложнее прогнозировать, какие профессии будут востребованы через 10–15 лет. Поэтому в образовании важно делать акцент не только на профессиональных знаниях, но и на универсальных навыках. В числе ключевых компетенций он выделил критическое мышление, коммуникацию, творчество и сотрудничество.
«Творчество должно быть в центре деятельности любого человека. Общение, коммуникация – это божий дар всякому человеку. Мы можем общаться со всеми и должны общаться со всеми, и у нас есть дар эмпатии, сочувствия к человеку. У машины этого нет», – подчеркнул он.
Директор Центра ИИ МГИМО Анна Абрамова подчеркнула, что этика должна лежать в основе управления искусственным интеллектом, однако только этических принципов недостаточно – необходимо и законодательное регулирование.
Заместитель председателя правления, управляющий директор фонда «Сколково» Сергей Израйлит предположил, как искусственный интеллект изменит рынок труда в ближайшие 2–3 года. Он скептически отнёсся к прогнозам о замене сотрудников и подчеркнул, что ИИ способен не только исполнять отдельные задачи, но и в целом повышать производительность человека.
В рамках сессии также отметили негативное влияние ИИ. Руководитель координационного подразделения, Управления Организации Объединённых Наций по цифровым и новым технологиям Исабель де Сола Криадо акцентировала внимание на том, что злоумышленники могут использовать искусственный интеллект в своих целях.
«В условиях неопределённости нам необходимо быть готовыми к тому, если что-то пойдёт не так. Нам нужна какая-то кнопка, которая соединит нас с человеком, регулирующим "красный ядерный чемоданчик", способный остановить процесс, если придётся», – призвала она.
