Исследователи Оксфордского и Нью-Йоркского университетов опубликовали работу, посвящённую возможности выявления скрытого сговора ИИ-агентов, в том числе за столом блэкджека.
В эксперименте двум из четырёх агентов дали инструкцию тайно действовать сообща и передавать друг другу счёт карт через обычные реплики. ИИ-судья, анализировавший диалог, не смог отличить сговор от честной игры. Тем не менее, исследователи почти безошибочно выявили его по внутренним вычислениям нейросети.
Перед игрой сговорившиеся агенты договаривались о системе сигналов в отдельном канале, скрытом от остальных участников. Один считал карты и передавал текущий счёт репликами за столом (например, вопрос означал невыгодную для игрока колоду, а восторг — выгодную). Второй расшифровывал сигнал и менял размер ставок. Для каждой из 20 серий раздач агенты придумывали новую схему кодирования.