В MGA разработали принципы ответственного применения ИИ в гемблинге

Мальтийская комиссия по азартным играм (MGA) совместно с управлением цифровых инноваций (MDIA) представила AI Gaming Charter — Хартию по этичному и ответственному использованию искусственного интеллекта в сегменте iGaming.

Больше полезной информации о передовых технологических трендах и правовых нюансах работы в разных юрисдикциях — на сайте компании Casino Market.

Добровольный характер документа

Инициатива рассматривается прежде всего как практический ориентир для лицензиатов. Она не создает новых юридических обязательств и не заменяет действующее законодательство, а дополняет уже существующие требования, включая положения EU EU AI Act, GDPR и других европейских и национальных нормативных актов.

В документе обозначены основные принципы работы с ИИ:

• защита участников азартных игр;
• честность игровых процессов;
• прозрачность работы систем;
• сохранение общественного доверия.

MGA придерживается технологически нейтрального и риск-ориентированного подхода. Значение имеет не сам инструмент, а способ его применения и потенциальное влияние на игроков или работу оператора.

Простая автоматизация на основе заранее заданных правил, включая RPA, не считается ИИ-системой в контексте документа.

Под его действие подпадают сервисы, которые способны:

• анализировать данные;
• делать выводы;
• формировать прогнозы;
• генерировать контент;
• адаптироваться к полученной ранее информации.

Масштаб контроля должен соответствовать потенциальным рискам, связанным с использованием технологии.

Системы с низкой степенью риска, например, инструменты для работы с кодом или выполнения офисных операций, подходят для внутренних и административных задач и предполагают относительно простые механизмы аудита.

Решения с высоким уровнем воздействия нуждаются в значительно более строгом контроле. К этой категории относятся ИИ-алгоритмы, используемые в важных операционных и комплаенс-процессах:

• прямое общение с аудиторией;
• проверка соответствия KYC и других пользовательских данных;
• выявление мошенничества и рисков AML;
• оценка признаков проблемного поведения;
• введение ограничений или блокировка аккаунтов;
• другие процессы, способные непосредственно повлиять на игрока.

Текущая практика работы с технологиями

Перед подготовкой Хартии в MGA изучили области применения искусственного интеллекта среди лицензированных операторов. Исследование показало, что ИИ уже используется в нескольких направлениях.

Среди наиболее распространенных:

• обслуживание клиентов и чат-боты;
• оптимизация операционных задач;
• анализ данных;
• обнаружение мошенничества;
• соблюдение нормативных требований;
• инструменты защиты игроков.

Некоторые решения пока находятся на стадии тестирования или ограниченного внедрения.

Операторы, в частности, оценивают целесообразность их использования для таких задач, как:

• выявление проблемного поведения;
• антифрод и AML;
• формирование персональных рекомендаций;
• автоматизация KYC и HR-процессов.

При этом динамическое формирование коэффициентов, подготовка регуляторной отчетности и ряд задач в лайв-казино пока редко автоматизируются.

Исследование также выявило заметную разницу в технологической зрелости компаний. Одни операторы уже используют интеллектуальные решения в основных бизнес-процессах, другие только оценивают их возможности.

Среди основных проблем MGA отмечает:

• недостаточную ИИ-грамотность сотрудников;
• отсутствие формализованных стратегий внедрения;
• неодинаковый уровень развития систем управления данными.

Поэтому Хартия должна стать общей отправной точкой для отрасли. Инициатива поможет гемблинг-компаниям применять сопоставимые принципы управления технологией независимо от степени ее внедрения.

Основные принципы ответственного использования ИИ

В документе выделены несколько направлений, которые определяют требования к работе с технологией.

Прозрачность, подотчетность и объяснимость

MGA призывает операторов открыто сообщать об использовании искусственного интеллекта и не преувеличивать его возможности.

В частности, Хартия запрещает AI washing — ситуацию, когда обычное программное обеспечение выдают за ИИ или намеренно завышают возможности технологии в маркетинговых целях. Игроки также должны понимать, когда общаются с алгоритмом, например, чат-ботом.

Отдельное внимание уделяется материалам, созданным с помощью интеллектуальных решений. Их использование должно соответствовать EU AI Act, включая положения о маркировке определенных видов синтетического контента и дипфейков.

Прозрачность не предполагает раскрытия коммерческой тайны.

Операторы не обязаны публиковать:

• исходный код;
• детали моделей обнаружения мошенничества;
• алгоритмы AML;
• другую информацию, раскрытие которой способно создать риски для безопасности бизнеса.

Для значимых ИИ-систем рекомендуется вести подробные журналы работы.

В них следует фиксировать:

• версии моделей;
• входные данные;
• полученные результаты.

Если решение системы существенно влияет на игрока, оператор должен иметь возможность объяснить человеку причины его принятия.

Справедливость и исключение дискриминации

Генеративные модели не должны приводить к незаконной дискриминации или систематической предвзятости в отношении отдельных групп пользователей.

MGA обращает внимание не только на очевидные признаки, такие как пол, возраст или раса, но и на скрытые переменные, способные выступать их косвенными заменителями.

К ним могут относиться:

• геолокация;
• особенности игрового поведения;
• тип используемого устройства.

Предвзятость может возникать и из-за обучающих данных. Исторические сведения способны воспроизводить уже существовавшие перекосы, а неправильно сформированная выборка — искажать представление о пользователях.

Поэтому операторам рекомендуется регулярно проверять модели на подобные проблемы и применять инклюзивные принципы при их разработке.

Экологическая устойчивость

Обучение и работа сложных систем требуют значительных вычислительных ресурсов, что напрямую связано с потреблением энергии и углеродным следом.

Операторам рекомендуется:

• учитывать экологические последствия при выборе продукта и поставщика;
• оптимизировать программный код и инфраструктуру;
• использовать более энергоэффективные решения;
• придерживаться принципов Green AI.

Защита данных и управление

Использование ИИ должно соответствовать GDPR и действующим правилам защиты персональных данных.

Среди основных принципов MGA выделяет:

• минимизацию объема собираемых данных;
• ограничение целей их использования;
• обеспечение качества информации;
• конфиденциальность и безопасность по умолчанию;
• надежное хранение сведений;
• ограничение сроков хранения;
• регламентированное удаление устаревших данных.

Эти принципы следует учитывать уже на этапе проектирования ИИ-систем, а не добавлять после их интеграции и отладки.

Человеческий контроль

Одна из центральных идей Хартии — human-in-the-loop. Инициатива предусматривает сохранение человеческого участия при принятии значимых решений.

ИИ может помогать сотрудникам:

• анализировать большие объемы информации;
• выявлять подозрительные действия;
• быстрее реагировать на риски.

Однако окончательная ответственность за решения, способные существенно повлиять на игрока, должна оставаться за человеком.

Операторам рекомендуется заранее предусматривать возможность:

• вмешательства сотрудника;
• пересмотра решения системы;
• отмены автоматического вердикта по операционным вопросам;
• передачи ситуации на ручную проверку.

Для нештатных и высокорисковых ситуаций следует заранее определить триггеры реагирования, включая:

• признаки проблемного поведения;
• сильный стресс в рамках игрового процесса;
• потенциальные ошибки алгоритма.

Кроме того, компании должны регулярно обучать сотрудников и повышать их цифровую и ИИ-грамотность.

Надежность и устойчивость систем

ИИ-сервисы должны сохранять работоспособность и предсказуемость в нестандартных условиях. Перед запуском платформы MGA рекомендует проводить комплексное тестирование.

Для выявления технических ошибок и других несоответствий используются:

• стресс-тесты;
• red-teaming;
• проверка устойчивости к состязательным атакам;
• оценка возможных сценариев отказа.

После релиза необходимо контролировать работу модели и отслеживать метрики data drift. Они показывают изменения характеристик данных, которые со временем могут снижать точность системы.

Владельцы платформ также должны иметь возможность аварийно отключить ИИ и использовать механизмы безопасной деградации, позволяющие продолжить работу онлайн казино при сбое автоматизированных компонентов.

Ответственность операторов

Хартия призывает лицензированных поставщиков назначать сотрудников, отвечающих за использование генеративных технологий внутри организации.

В их обязанности может входить:

• контроль за соблюдением установленных принципов;
• координация соответствующих процессов;
• участие в регулярном обучении персонала.

Отдельное внимание уделяется работе с инцидентами. Компании должны документировать системные ошибки и другие существенные проблемы, а в предусмотренных случаях информировать MGA или MDIA.

Это особенно важно, поскольку одни и те же ИИ-инструменты могут одновременно затрагивать такие области, как:

• безопасность;
• защита данных;
• ответственная игра;
• соблюдение нормативных требований.

Главное о подходе MGA к применению ИИ в iGaming

Отдельное приложение к Хартии сопоставляет ее принципы с положениями EU AI Act и GDPR. Таким образом, MGA не создает параллельную систему норм, а предлагает операторам практический ориентир для применения уже действующих европейских правил с учетом специфики игорного бизнеса.

Генеральный директор MGA Чарльз Мицци подчеркнул, что Комиссия не стремится ограничивать технологические инновации. Ее задача — создать условия, в которых компании смогут внедрять новые решения с большей определенностью и контролем.

Документ становится одним из первых специализированных европейских ориентиров по применению искусственного интеллекта в азартных играх. Его добровольный статус не меняет юридических обязанностей гемблинг-компаний: они по-прежнему определяются действующим законодательством.

Основная идея инициативы заключается в том, что ИИ должен дополнять существующие механизмы управления, комплаенса и защиты игроков. Чем выше потенциальное влияние технологии на пользователя или значимые решения оператора, тем строже должны быть контроль, прозрачность, безопасность и человеческий надзор.

За подробными консультациями по вопросам запуска iGaming-стартапов обращайтесь к специалистам Casino Market.

Мы предлагаем решения для полного производственного цикла и помогаем быстро запускать проекты в регулируемых юрисдикциях. Чтобы оценить возможности фирменного онлайн казино, подключите бесплатную демоверсию.

Купить казино

Мэй Террелл Копирайтер

Остались вопросы или хотите заказать услуги?
Обращайтесь к нашим консультантам:

• e-mail: manager@casino-market.com
• форма обратной связи.