Планы по использованию и развитию открытых моделей, а также риски их внедрения обсудили эксперты в ходе панельной дискуссии «Open-source модели: как сбалансировать возможности и уязвимости».
Баланс между открытостью и безопасностью моделей был найден именно в России, считает генеральный директор VisionLabs Дмитрий Марков.
«В нашей стране, согласно закону об искусственном интеллекте, приветствуется рискориентированный подход. То есть из-за наличия критической инфраструктуры будут выдвигаться определённые требования к моделям. Мы считаем, что в критической инфраструктуре нужно, скорее всего, использовать модели, которые мы можем контролировать», – заявил он.
Как отметил управляющий директор Центра человекоцентричного ИИ ПАО «Сбербанк», член независимой международной научной группы по ИИ ООН Андрей Незнамов, модели с открытым кодом нужны для того, чтобы преодолевать существующее неравенство в доступе к технологиям искусственного интеллекта.
«Понятно, что это даёт возможности для злоумышленников – для этого нужны меры безопасности. А периметры безопасности могут быть созданы только ИИ-разработчиками, для этого нужно вести с ними диалог. Мы не можем остановить разработки. Да, с ними связаны риски, но есть и огромное количество возможностей», – объяснил эксперт.
По словам специалиста по цифровым технологиям и международному развитию Управления ООН по цифровым и новым технологиям (ODET) Франческо Стабилито, для развития open-source моделей требуется инфраструктура.
«Нужно наращивать кадровый потенциал, обучать техническим навыкам. Кадры должны иметь навыки разработчиков, знать, как откалибровать модель, как дообучать её, какая экосистема нужна для её поддержки», – подчеркнул он.
Инженер по серверной разработке ИИ Facehawk Limited Монис Али Зайн уль-Абидин Эдин добавил, что в Пакистане делают акцент на дообучение готовых моделей на основе местных наборов данных.
«Не нужно создавать их с нуля, а это означает гигантский объём работы: сбор данных, развитие инфраструктуры. Поэтому гораздо проще взять базовую модель и дообучить её. Сделать проверки, понять происхождение модели, историю её развития – это всё, что нужно рассмотреть. Если говорить о создании модели с нуля, то изначально нужен огромный объём данных и финансирование», – сказал он.
Роль документирования при работе с моделями отметил инженер по аналитике и машинному обучению Telecom Egypt Мостафа Ахмед Эль Демери.
«Каждый набор данных, каждая модель, каждый тест, который проводите – всё нужно документировать. Потому что если вам нужно будет "откатить" модель, то тогда вы уже сможете сделать это более эффективно», – считает Мостафа Ахмед Эль Демери.
В свою очередь, менеджер по продукту Econet AI Zimbabwe Тревор Такудзва Мудондо поделился мнением, что искусственный интеллект потребуется следующему поколению молодых африканцев для решения локальных проблем.
«Мы знаем, что если создавать модель с нуля, то это дорогостоящая процедура даже для крупных корпораций. Поэтому полагаемся на открытые модели, но контролируем данные. А ключ к успеху для нас – инфраструктура», – отметил он.
Генеральный директор Арабской организации информационно-коммуникационных технологий (AICTO) Мохамед Бен Амор сообщил, что в рамках работы организации было создано 6 подкомитетов, по итогам работы которых будет принято решение, какую именно модель адаптировать.
«К тому моменту, я думаю, открытые модели будут проверены, и это будет альтернативой для арабских стран, поскольку к настоящему моменту существует обеспокоенность относительно цифрового суверенитета и неприкосновенности частных данных. Открытые модели могут представляться хорошей альтернативой, когда мы говорим о суверенитете», – подчеркнул эксперт.
