Автор: Хилари Дж. Аллен Источник: Американский университет
Через десять лет после запуска нормативного песочницы для финансовых технологий Управлением по финансовому поведению Великобритании, эта модель широко распространилась по всему миру, однако ее основа — сочетание смягчения регулирования и руководства — по-прежнему не имеет убедительных эмпирических доказательств своей эффективности. Существующие доказательства показывают лишь, что песочница полезна для участвующих компаний, но не подтверждают ее влияние на общую систему регулирования или широкое распределение инновационных результатов. Две основные обеспокоенности, возникшие при создании песочницы (ослабление регуляторной эффективности и сомнения в эффективности обучения регуляторов), не только не исчезли за десять лет практики, но иногда даже усилились. Несмотря на то, что оптимизация дизайна может смягчить некоторые проблемы, основная задача заключается в том, чтобы пересмотреть саму модель песочницы, особенно в свете ее продвижения для содействия инновациям в области генеративного ИИ. Учитывая, что масштабирование генеративного ИИ трудно преодолеть его неотъемлемые ограничения и что он уже оказал значительное негативное влияние на конфиденциальность, интеллектуальную собственность и экосистему, неосторожное использование механизма песочницы, который может ослабить правовую защиту, для содействия ИИ представляет слишком высокий риск. Исследовательский институт финансовых технологий Университета народного хозяйства Китая провел компиляцию основных частей исследования.
1. Введение
Регуляторные органы различных стран и областей по всему миру активно исследуют пути регулирования, подходящие для технологических новшеств. В 2015 году Управление по финансовому поведению Великобритании (FCA) объявило о создании механизма регуляторного песочницы для финансовых технологий, и с тех пор эта модель быстро охватила весь мир в течение следующего десятилетия. Основной замысел регуляторной песочницы заключается в следующем: отобранные компании могут запускать ограниченные испытания продуктов в среде, где ослаблены правила и снижены риски правоприменения. Ее цели двойственны: во-первых, она направлена на снижение возможных барьеров для входа, которые могут препятствовать инновациям в области финансовых технологий; во-вторых, она предоставляет регуляторным органам возможность понять новые технологии с тем, чтобы корректировать свои стратегии надзора в процессе испытаний в песочнице. В последние годы политики разных стран также проявили большой интерес к использованию механизма песочницы для содействия инновациям в области искусственного интеллекта и созданию новой структуры регулирования ИИ. Однако практика финансовых технологий за последние десять лет показывает, что перенос этой модели в сферу ИИ в качестве инструмента политики не имеет достаточных оснований.
Несмотря на то, что регуляторные песочницы были широко приняты, эмпирические доказательства их степени достижения целей по-прежнему остаются ограниченными. Существующие эмпирические исследования сосредоточены на показателях инноваций: способности участвующих компаний к финансированию, количестве полученных патентов и т. д. Такие данные не могут ни продемонстрировать влияние песочной механики на общую структуру регулирования финансовых технологий, ни подтвердить, что инновационные результаты, возникшие в песочнице, приносят пользу группам, выходящим за рамки инновационных субъектов.
Отсутствие поддержки данных имеет решающее значение — перспективы достижения целей финансово-технологического песочницы на самом деле не внушают оптимизма. Во-первых, пока неясно, может ли финансово-технологическое новшество принести достаточную социальную пользу, чтобы обосновать смягчение важных регуляторных норм, которые изначально были направлены на защиту потребителей и финансовой системы от вреда. Во-вторых, из-за недостатка представительности образца участников песочницы и особой среды, которая легко приводит к регуляторному захвату, знания, полученные регуляторами из эксперимента, имеют значительные ограничения. Каналы, по которым регуляторы делятся знаниями, полученными из песочницы, также ограничены.
Два. Теоретическая основа регулирующего песочницы
В 2016 году Управление по финансовому поведению Великобритании (FCA) определило свой первый регуляторный песочницу как "безопасное пространство, в котором предприятия могут тестировать инновационные продукты, услуги, бизнес-модели и механизмы доставки, при этом обеспечивая надлежащую защиту потребителей". В течение следующих десяти лет участники FCA сосредоточили свои усилия на разработке новых кредитных, инвестиционных, банковских и платежных продуктов с использованием технологий. Во многих юрисдикциях мира последовали примеру и создали механизмы регуляторных песочниц для финансовых технологий. Несмотря на то, что между песочницами, разработанными различными регулирующими органами, существуют значительные различия в структуре и целях, их основная цель обычно включает в себя следующие элементы:
Поддержка финансово-технологических компаний, стремящихся предложить инновационные продукты, услуги или бизнес-модели;
Создание более эффективной и лучше управляемой системы финансовых услуг;
Уточнить взаимодействие между новыми технологиями и бизнес-моделями и регуляторной рамкой, выявить возможные барьеры для входа на рынок;
Способствовать эффективной конкуренции, выгодной для потребителей;
Увеличение доступности финансовых услуг.
Регуляторные песочницы обычно рассматриваются как механизм трех выигрышей: они помогают инноваторам получать финансирование и ускоряют выход продуктов на рынок; обеспечивают потребителям доступ к большему количеству финансово-технологических продуктов; позволяют регулирующим органам осознавать финансово-технологические продукты и их соответствие регуляторным нормам (и не говоря уже о формировании "дружественного к инновациям" имиджа юрисдикции).
С момента его создания FCA концепция регуляторного песочницы вышла за пределы финансовых технологий и расширилась на такие различные сферы, как автономное вождение и юридическая практика. Согласно отчету ОЭСР за 2023 год, в мире к тому времени было реализовано около 100 программ песочницы. Особенно в области искусственного интеллекта все более громко звучат призывы к приостановке регулирования через песочницу для содействия экспериментам в области ИИ.
Регуляторные песочницы имеют множество преимуществ:
Способствование инновациям: Технологии ИИ быстро развиваются, а регуляторная среда не успевает за ними. Песочница снижает риски соблюдения норм в условиях контролируемой среды, и на практике это доказывает, что она может значительно сократить "время выхода на рынок" для инновационных продуктов, увеличивая юридическую определенность для компаний и, таким образом, стимулируя инновационную активность. 2. Повышение скорости реакции: Текущие законодательные процедуры (например, Законодательство ЕС о Искусственном Интеллекте) идут медленно — этот законопроект был предложен в апреле 2021 года и до сих пор находится на рассмотрении, ожидается, что он не вступит в силу до 2025/26 года. Более того, как только традиционное законодательство будет принято, в будущем будет крайне сложно вносить поправки, чтобы адаптироваться к развитию технологий. В некоторой степени, этот законопроект появился в эпоху до появления генеративного ИИ, такого как ChatGPT, и в настоящее время уже устарел. В этом отношении песочница, как гибкий инструмент реагирования, может быстро адаптироваться к новым вызовам. 3. Укрепление защиты потребителей: Системы ИИ могут нанести вред потребителям, и песочница тестирует системы в контролируемой среде, выявляя и снижая потенциальные риски, обеспечивая безопасность технологий и тем самым поддерживая доверие потребителей к новым технологиям. 4. Стимулирование совместного управления: Песочница объединяет регулирующие органы, компании и других заинтересованных сторон для совместного продвижения развития технологий ИИ, сбалансировав потребности в инновациях и общественной безопасности, что приводит к созданию более эффективных регуляторных правил. Это двустороннее обучение между регуляторами и регулируемыми приводит к взаимовыгодным результатам, увеличивая доверие к технологиям и ускоряя их внедрение.
На практике некоторые юрисдикции уже запустили тестирование AI в песочнице. Операторы финансовых технологических песочниц в таких странах, как Великобритания и Сингапур, начали исследовать финансовые приложения AI (в США, по меньшей мере, был предложен законопроект о создании песочницы для проведения экспериментов с AI финансовыми учреждениями). Также появились специальные песочницы для AI, независимые от финансового регулирования: в таких странах, как Великобритания и Норвегия, созданы песочницы, сосредоточенные на правилах конфиденциальности. В связи с тем, что Европейский Союз требует от государств-членов к 2 августа 2026 года как минимум запустить одну регулирующую песочницу для AI или участвовать в международной объединенной песочнице, такие механизмы в будущем будут стремительно расти внутри Европейского Союза. Этот законопроект предвидит возможность создания трансграничных песочниц для AI — учитывая необходимость работы AI-компаний в разных юрисдикциях и влияние междисциплинарного характера технологий AI, песочницы в рамках одной юрисдикции также нуждаются в координации регуляторов из разных ведомств.
В ответ на транснациональные характеристики финансовых услуг в 2019 году была создана Глобальная сеть инновационных финансовых регуляторов (GFIN), которая исследует механизм "транснационального тестирования (CBT)" (также известный как "глоб песочница"), стремящийся "создать среду, позволяющую компаниям последовательно или синхронно тестировать новые технологии, продукты или бизнес-модели в нескольких юрисдикциях". В октябре 2020 года GFIN запустила первый раунд заявок на транснациональное тестирование, требуя от заявителей соответствовать стандартам допуска всех целевых юрисдикций. Результаты реализации оказались неутешительными: из 38 заявок только 9 прошли оценку, и в конечном итоге только 2 компании вошли в фазу тестирования в реальных условиях. Этот механизм до сих пор не запустил второй раунд, что ставит под сомнение практику транснациональной песочницы. Но достаточно ли имеющихся эмпирических данных?
Три. Эмпирические доказательства десятилетней работы песочницы
Британское управление по финансовому регулированию и надзору (FCA) в 2017 году опубликовало первый "отчет о результатах" регуляторного песочницы, проведя самооценку своих первых экспериментов. В этом отчете положительно оценены результаты песочницы в следующих областях:
Сокращение времени выхода инновационных продуктов на рынок и потенциальное снижение затрат
Расширение каналов финансирования для инноваторов за счет снижения регуляторной неопределенности
Содействие введению большего количества продуктов в тестирование и их возможному выходу на рынок
Содействовать сотрудничеству между регуляторами и инноваторами, внедряя механизмы защиты потребителей в новые продукты и услуги.
Первые три цели напрямую касаются инновационных субъектов, в то время как последняя акцентирует внимание на общественных интересах — степень удовлетворенности FCA четвертой целью в значительной степени основана на "разработке индивидуализированных мер обеспечения тестирования совместно с предприятиями".
На сегодняшний день независимых эмпирических исследований в области регулируемых песочниц все еще недостаточно. Важное исследование, опубликованное экономистами Банк международных расчетов (BIS) в 2024 году, указывает: "Несмотря на то, что регулируемые песочницы широко используются и привлекают внимание со стороны политики, все еще недостаточно системных эмпирических доказательств того, действительно ли они способствуют финансированию, инновациям или созданию жизнеспособных бизнес-моделей для финансовых технологий". BIS, анализируя данные о привлечении капитала, выживаемости и патентах компаний из британской песочницы, подтверждает, что "песочница достигла одной из своих основных целей: помочь новым компаниям в области финансовых технологий в финансировании и стимулировании инновационной деятельности".
Данные исследования, как и самопроверка FCA, сосредоточены на влиянии песочниц на инновационные субъекты, доказывая, что участие в очереди песочницы выгодно для компаний. Однако этот вывод может вызвать опасения по поводу того, что государственные учреждения "выбирают победителей": неотобранные компании могут столкнуться с более жесткой инновационной средой. Исследователи BIS признают, что финансовые преимущества участников песочницы "соответствуют логике снижения информационных барьеров и неопределенности соблюдения в области инвестиций", но не исключают другую интерпретацию: "Квалификация для участия в песочнице сама по себе может стать кредитным подтверждением, способствующим финансированию компаний."
Более важно, что существующие ограниченные исследования отвечают лишь на "поверхностный" вопрос о том, является ли "регуляторный песочница" в целом полезной политикой. Авторы BIS особенно подчеркивают: "Результаты исследования не обязательно доказывают, что песочница явно увеличивает социальное благосостояние. Операции песочницы часто нуждаются в поддержке государственных средств, и содействие финансированию компаний является лишь одной из целей — улучшение благосостояния потребителей и поддержание финансовой стабильности столь же важны." Кроме того, исследование BIS основывается на предположении, что "песочница позволяет регуляторам предсказать влияние на социальное благосостояние до выхода продукта на рынок". А профессор права Дуг Сарро (Doug Sarro) на основе последнего исследования о практике песочницы криптовалют в канадских регулирующих органах ценным бумагам показывает, что даже после выхода продукта на рынок влияние песочницы на благосостояние потребителей и финансовую стабильность продолжает существовать.
Сало обнаружил, что, несмотря на общепринятое мнение о том, что компании после "выпуска" будут полностью соответствовать требованиям, провинциальные регуляторы ценных бумаг Канады "не только контролируют торговые платформы в песочнице, но и долгое время осуществляют надзор после их (номинального) выхода из песочницы". Он также поставил под сомнение эффективность мер по защите потребителей, разработанных для песочницы:
Регуляторы часто не могут предсказать новые риски торговых платформ, и действуют только тогда, когда риски становятся схожими с традиционными ценными бумагами или уже привели к значительному ущербу для потребителей, вызывая общественные вопросы.
Специальный адвокат по финансовым услугам для всех Генерального секретаря ООН (UNSGSA) и Центр альтернативных финансов Кембриджа (CCAF) в своем отчете 2019 года также выдвинули другие основания для сомнений, основные выводы которых следующие:
Ранний опыт регуляторных песочниц показывает, что этот механизм не является ни необходимым, ни достаточным для содействия финансовой инклюзии. Песочницы имеют свои преимущества, но их создание является сложным и дорогостоящим в эксплуатации. Практика показывает, что большинство регуляторных вопросов, связанных с тестированием в песочницах, могут быть эффективно решены без необходимости создания реальной тестовой среды. Инструменты, такие как офисы инноваций, могут достичь аналогичных результатов с меньшими затратами.
Иными словами, если финансовые технологии, требующие значительных ресурсов, будут перенаправлены в другое место, это может оказаться более эффективным (в этом отчете отмечается, что многие государственные регуляторы не ожидали такой интенсивности потребления ресурсов со стороны песочницы). Основная причина высокой ресурсной интенсивности заключается в том, что регуляторы должны предоставлять участникам индивидуальное наставничество — такая "регуляторная поддержка" обходится дорого, но без нее эффективность песочницы вызывает опасения (с точки зрения участника бизнеса). Эти выводы, безусловно, ведут к более глубоким вопросам: действительно ли для стимулирования инноваций в финансовых технологиях необходимы регуляторные исключения песочницы? Достаточно ли просто предоставлять руководство для стимулирования инноваций (и большинство финансовых регуляторов уже создали "центры инноваций" для предоставления таких услуг). Но более существенный вопрос заключается в том: соответствует ли использование государственных ресурсов для поддержки инноваций в частном секторе общественным интересам?
Четыре. Глубокие тревоги
Предыдущие исследования выявили множественные риски этой модели: регуляторы выбирают компании для песочницы, что на самом деле является "выбором победителей", подрывая справедливость регулирования; затраты на эксплуатацию песочницы часто превышают ожидания; её выгоды в большей степени идут Innovators, а не обществу; с распространением глобальных песочниц предельная полезность сигналов политики "дружественной к инновациям" продолжает снижаться. Недавние исследования сосредоточились на основной противоречии: финансовая технология песочница требует отложить выполнение ключевых норм, предназначенных для защиты потребителей и финансовой системы.
Поддержка песочницы подразумевает, что она по умолчанию принимает потенциальное увеличение общественных рисков, и ее теория основана на двух пунктах: во-первых, инновации принесут пользу обществу за счет повышения эффективности и конкуренции; во-вторых, песочница помогает регуляторам понять, как новые технологии работают на рынке, что позволяет оптимизировать долгосрочное регулирование. Однако в данном разделе будет доказано, что эти предположения не выдерживают критики в области финансовых технологий, и в области искусственного интеллекта они также сомнительны. Необходимо заранее отметить, что инновации не обязательно приносят пользу обществу — хотя их рассматривают как необходимые условия для повышения эффективности и конкуренции, конкретное содержание "эффективности" и "конкуренции" всегда вызывает споры в контексте, и множество интерпретаций на самом деле не способствует общему благосостоянию общества. Кроме того, когда финансовые регуляторы превращаются в "болельщиков" и спонсоров выбранных ими инноваций, их объективность и готовность к обмену знаниями ослабевают, тогда как само понимание регулирования уже искажено из-за выборочности участников песочницы.
A. В качестве песочницы для изучения регулирования
Участие предприятий в песочнице полностью добровольное, поэтому песочница принимает только активно подающие заявки инновационные субъекты. Это приводит к двойному когнитивному слепому пятну: регулирующие органы не могут понять полностью соответствующие требованиям предприятия, так как они не обязаны участвовать в песочнице, и не могут понять субъекты, которые считают, что не подлежат действующим нормативам. Даже среди заявивших предприятия, критерии отбора часто размыты, и множество заявок отклоняется без ясных оснований.
Знания, полученные регуляторами из песочницы, поэтому имеют врожденное искажение. Хотя восприятие искаженных образцов по-прежнему имеет ценность, не следует считать песочницу единственным или оптимальным способом получения знаний. Как наблюдает учреждение ООН: регуляторы вполне могут изучать новые технологии у стартапов через неформальные каналы. Ослабление регулирования вовсе не является необходимым условием для понимания финансовых технологий или искусственного интеллекта.
Другим недостатком генерации знаний о регулировании в песочнице является то, что механизм допуска порождает аномальные отношения между государством и бизнесом, усиливая риск "регуляторного захвата". Проще говоря, "регуляторный захват" означает, что регуляторы ставят интересы отрасли выше общественных интересов, и его мотивы могут быть как явными (например, коррупция), так и неявными. Типичный случай неявного захвата: регуляторы получают информацию в основном от самой отрасли (и не консультируются с независимыми исследователями и потребительскими группами), и их восприятие неизбежно пропитывается взглядами отрасли и в конечном итоге ассимилируется. Этот процесс называют "когнитивным захватом", а поверхностная технологическая сложность бизнес-моделей финансовых технологий более подвержена этому явлению. Если регуляторы не создадут базу технического восприятия через привлечение талантов или внутреннее обучение, их способность критически оценивать утверждения отрасли будет ограничена. Эта проблема также остро стоит в регулировании ИИ — мировые ИИ-компании активно захватывают регуляторов с помощью нарративов, таких как "регуляция замедляет инновации" и "вынуждает предпринимателей покидать страну".
Таким образом, действительно ли песочница может улучшить способности регуляторов в выполнении их функций, вызывает большие сомнения. Автор ранее указывал: "Регуляторная песочница может случайно помочь финансовым регуляторам выполнять функции контроля рисков, но ее популярность коренится в поверхностной предпосылке — то есть в том, что инновации в области финансовых технологий в частном секторе неизбежно соответствуют лучшим интересам общества." В дальнейшем будет внимательно рассмотрена разумность этой предпосылки.
B. Инновации как цель регулирования
Как говорит профессор права Дирдре Ахен, концепция регуляторной песочницы основана на "функции регулятора по улучшению выбора потребителей, цен и эффективности в общественных интересах" — это коренным образом отличается от регуляторной логики, сосредоточенной на управлении рисками. Однако есть все основания сомневаться: действительно ли "конкуренция" и "эффективность", порожденные песочницей финансовых технологий, являются благом для общества? Отказ от управления рисками может оказаться ошибочным суждением. Все больше признаков указывают на то, что сомнения в общественной полезности инноваций в области ИИ также имеют место. В этом контексте разумность политики, ослабляющей механизмы общественной защиты ради инклюзивных инноваций, вызывает сомнения — и это как раз и является сущностной логикой дизайна песочницы.
Ограничения финансовых технологий и инноваций генеративного ИИ
Политика, способствующая инновациям, в первую очередь должна приносить пользу самим инноваторам. Теоретическая предпосылка заключается в том, что инновации будут приносить вторичные выгоды для других, однако на практике не все инновации являются взаимовыгодными, и эта предпосылка не всегда оправдана. Например, Даг Сэло в своем исследовании канадского криптовалютного песочницы обнаружил: "Регуляторная практика по крайней мере частично подтверждает опасения — песочница может ставить инноваторов выше потребителей". Ранее проведенные мной и другими учеными исследования также показали, что многие финансовые технологии, помимо удобного интерфейса, не предлагают существенных технологических новшеств, а некоторые продукты даже наносят вред, представляя собой "хищническое поглощение" — на первый взгляд они обслуживают ранее исключенные маргинальные группы, но на самом деле осуществляют систематическую эксплуатацию. Источником прибыли финансовых технологий часто является не технологическое преимущество, а уклонение от правил защиты потребителей под видом "инноваций".
Все больше доказательств указывают на то, что сомнения в "двойной выгоде" генеративного ИИ также обоснованы (широкое понимание ИИ охватывает различные технологии; генеративный ИИ специально относится к инструментам, которые распознают закономерности с помощью огромного объема обучающих данных для создания нового контента). С 2024 года академическое сообщество начало резко ставить под сомнение реальную ценность генеративного ИИ. Например, Джим Ковелло, руководитель исследования акций Goldman Sachs — опытный аналитик, отслеживающий технологическую индустрию с эпохи пузыря доткомов, указывает на то, что разработанный в Силиконовой долине генеративный ИИ не имеет четких областей применения. Он также предостерегает: "Никогда в истории технологии не получали оценку в триллионы долларов сразу после появления... В прошлом технологические итерации всегда заменяли дорогие решения дешевыми, а теперь дорогие технологии пытаются заменить недорогую рабочую силу, и эта логика по своей сути трудна для понимания."
Основной недостаток данной модели ИИ заключается в склонности к галлюцинациям: модель часто генерирует ответы, которые выглядят авторитетно, но на самом деле ошибочны. Типичные ошибки включают: модель Google советует добавить клей Элмера, чтобы пицца стала более тянущейся; модель OpenAI не может правильно посчитать количество букв "r" в слове "strawberry". Более того, ИИ часто выдумывает литературу в поддержку своих выводов: исследование BBC 2025 года показало, что "13% ссылок ИИ на утверждения BBC содержат искажения или вообще не имеют соответствующего оригинала".
Если компания развернет подобные модели без какого-либо контроля, она может понести серьезные последствия — уроки, извлеченные из ситуации с Air Canada, тому подтверждение: после того как их чат-бот ошибочно ответил на запрос о похоронной политике, авиакомпания даже заявила, что "чат-бот должен нести ответственность сам", однако гражданский суд постановил, что она должна компенсировать клиенту ущерб и выплатить штраф. Введение "человеческого вмешательства" может снизить риск ошибок, но при этом нивелирует те преимущества в затратах, которые призвана обеспечить ИИ. Для исправления иллюзий, возникающих в выводах ИИ, необходимо затратить массу профессиональных ресурсов: исследование, проведенное платформой для фрилансеров Upwork в 2024 году, показало, что 96% руководителей ожидают, что инструменты ИИ повысят производительность компаний (39% обязаны использовать / 46% поощряют использование), но почти 47% сотрудников, использующих ИИ, признались, что "не знают, как достичь поставленных работодателем целей по повышению эффективности".
Учитывая вышеприведенные ограничения, ограниченное количество коммерческих приложений генеративного ИИ вовсе не является неожиданностью. Компании в целом настороженно относятся к таким инструментам, что может быть и к счастью — последние исследования показывают, что зависимость от инструментов ИИ имеет значительную отрицательную корреляцию с критическим мышлением. Несмотря на то, что ИИ рекламируется как "инструмент, освобождающий человека от рутинных задач для сосредоточения на высокоуровневом творчестве", реальность такова: высокие способности зачастую возникают именно из закалки в базовой практике.
Даже если оставить в стороне конкретные области, механизм песочницы вызывает разумные сомнения в качестве инструмента регулирования. Политическим деятелям особенно следует быть осторожными с искажёнными стимулами, порождаемыми песочницей: в идеальном состоянии законы и регулирующие органы должны передавать отраслям ясный сигнал о том, что "только соблюдение норм может гарантировать общественные интересы", но песочница может быть интерпретирована как "жертва юридического авторитета ради инноваций".
"Конкуренция" и "эффективность" на самом деле являются тестом Роршаха, отражающим ценности регуляторов. Например, "эффективность" несет разные ценностные оценки в разных областях и не может служить нейтральной и единой целью регулирования. Цели эффективности и конкуренции трудно предоставить регуляторам четкие ориентиры: при оценке песочницы регуляторы должны задаться вопросом "С какой точки зрения мы оцениваем конкуренцию и эффективность? С точки зрения участвующих компаний, всей отрасли или общественности?"
В отличие от затрат на создание песочницы для содействия инновациям, регуляторы должны принимать проактивные меры по предотвращению общественного вреда от новых технологий. Бывший временный директор Управления по контролю за финансовыми предприятиями Майкл Су предложил финансово-технологическую регуляторную модель "содействия и укрощения", которая также применима к широкому регулированию технологических инноваций.
Политика уступок может поддерживать дефектные технологии и искусственно поддерживать коммерческие модели, которые изначально не имели шансов на выживание. Учитывая, что новаторы обычно не имеют глобального понимания операционной среды (как уже упоминалось), укрощение часто является более предпочтительным путем. Исследователь культур технологий Алатри Вад указывает на инструменты ИИ:
Способность экспертов в области технологий искусственного интеллекта оценивать их социальные и политические последствия значительно ниже, чем у профессионалов, которые утверждают, что собираются изменить эту область. Врачи, учителя, социальные работники и законодатели, обсуждая ИИ, вовсе не являются незнающими – именно они наиболее квалифицированы для понимания потенциальных рисков злоупотребления автоматизацией в этой области.
Необходимо уточнить: писаные законы иногда действительно должны эволюционировать в интересах общества, но когда реформы регулирования проводятся в碎片化的方式 и в основном выгодны лишь нескольким компаниям в песочнице, это должно вызывать настороженность. Если регуляторам действительно необходимо экспериментировать с новыми стратегиями, до появления песочницы уже существовало множество инструментов, применимых ко всей отрасли. Агентства ООН при оценке песочниц финансовых технологий подчеркивают: "Принцип пропорциональности или риск-ориентированная система лицензирования может снизить затраты на соблюдение норм для стартапов и, в отличие от песочницы, охватывает всех участников рынка."
Неофициальные регуляторные меры могут быть эффективными при работе с быстро развивающимися технологиями, но всегда сопряжены с издержками — особенно с отсутствием права участия общественности и прозрачности регуляторных решений. Эти издержки особенно актуальны в контексте песочницы: частные компании имеют значительное влияние на регуляторные условия, затронутые группы даже не могут знать содержание условий, и тем более не могут выразить возражения. Когда продукты и технологии компаний песочницы имеют очень высокую сложность, регуляторы часто поддаются их "техническому авторитету", что облегчает им доминировать в разработке условий.
Регуляторы выступают в роли "помощников" песочницы, что приводит к снижению стандартов регулирования. Канадский случай показывает: криптовалютные компании, "выпускающиеся" из песочницы, по-прежнему не могут работать в соответствии с законом — потому что их природа прибыли зависит от арбитража регулирования, а не от технологических инноваций. Когда временное освобождение истекает, регуляторы сталкиваются с дилеммой: принудительное соблюдение приведет к закрытию компаний, или же освободить их от обязательств навсегда. Политико-экономическая реальность часто заставляет выбирать второе: экосистема сотрудников и клиентов, сформированная компаниями, создает сеть корыстных интересов, что затрудняет ужесточение правил для регуляторов.
Результатом этого стало разрывание правил, применение дифференцированных стандартов для различных компаний, что привело к созданию нечестной конкурентной среды и полностью противоречит изначальной цели песочницы "всестороннего соблюдения норм". Законодателям необходимо осознать: как только компания попадает в песочницу, регуляторы оказываются в ситуации вынужденного потакания, что заставляет их долгое время закрывать глаза на общественные риски. Основное решение заключается в переходе к модели укрощения — путем установления единой регуляторной рамки, которая ограничивает границы инноваций, а не путем жертвы общественных интересов ради технологического развития.
C. Проблемы управления трансграничными песочницами
Законодательство ЕС о искусственном интеллекте продвигает механизмы транснационального песочницы, подчеркивая особые проблемы трансграничного регулирования: противоречие между потребностями компаний, работающих в нескольких юрисдикциях, и зависимостью от малых юрисдикций. Однако трансграничное применение сталкивается с глубокими препятствиями — фрагментация стандартов регулирования, высокие затраты на координацию, размытость политических сигналов и другие проблемы, что дополнительно подтверждает обоснованные сомнения в отношении инструментов песочницы.
Глобальная сеть инновационных финансовых регулирующих органов (GFIN), основанная в 2019 году, хотя и нацелена на создание транснационального песочницы для финтеха, до сих пор успешно завершила только один транснациональный эксперимент, и лишь две компании вышли на этап реального тестирования. Важной причиной низкой степени принятия является то, что участники должны соответствовать различным регуляторным требованиям разных юрисдикций. Чтобы уменьшить затраты на согласование между несколькими юрисдикциями, GFIN использует механизм "ведущего регулирующего органа", но признает:
Ведущий регулирующий орган испытывает огромное давление ресурсов — необходимо координировать 38 заявок и 23 регулирующих органа, затрачивать значительные человеческие и материальные ресурсы, чтобы обеспечить своевременное разрешение вопросов как со стороны предприятий, так и со стороны регуляторов, гарантируя, что процесс подачи заявок будет продвигаться в соответствии с установленными сроками.
Увеличение эффективности трансграничного песочницы неизбежно требует координации и унификации правовых стандартов, но трансграничная координация на самом деле является высокополяризованным процессом, часто подверженным играм внутренних групп интересов. Любые "политические сигналы" песочницы будут растворяться в процессе координации — когда все юрисдикции принимают единые стандарты, не будет "дружественной к инновациям юрисдикции". Проблемы распределения ресурсов и ответственности также будут продолжать существовать — как в случае трансграничной деятельности, так и при межведомственном сотрудничестве на месте. Несмотря на то, что песочница призвана способствовать новым технологиям, эти вызовы координации ресурсов на самом деле являются привычными темами, а регулирующая песочница не предлагает никаких инновационных решений.
Пять, вывод
Данная статья продолжает исследования автора и утверждает, что в области финансовых технологий регуляторы должны придавать приоритет общественному управлению рисками перед повышением эффективности и конкуренции за счет частных инноваций. Все большее количество доказательств показывает, что этот принцип также применим в области генеративного искусственного интеллекта — поэтому внедрение AI песочниц вызывает множество опасений.
Хотя изящный дизайн песочницы может смягчить некоторые риски, мы не должны пропускать основные вопросы и сразу обсуждать технические решения: настало время переосмыслить применимость регуляторной песочницы в конкретных ситуациях. Обществу срочно необходимо коллективно переосмыслить «поклонение инновациям в стиле Силиконовой долины», и повышение бдительности к песочной модели (и к способам регулирования, которые она способствует) должно стать центральным элементом этого размышления. В конце концов, с момента появления регуляторной песочницы, впервые предложенной Управлением финансового поведения Великобритании, прошло более десяти лет, и до сих пор мало убедительных доказательств того, что эти ресурсоемкие инструменты регулирования действительно способствовали общественному благосостоянию.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Регуляторная песочница: десять лет спустя
Автор: Хилари Дж. Аллен Источник: Американский университет
Через десять лет после запуска нормативного песочницы для финансовых технологий Управлением по финансовому поведению Великобритании, эта модель широко распространилась по всему миру, однако ее основа — сочетание смягчения регулирования и руководства — по-прежнему не имеет убедительных эмпирических доказательств своей эффективности. Существующие доказательства показывают лишь, что песочница полезна для участвующих компаний, но не подтверждают ее влияние на общую систему регулирования или широкое распределение инновационных результатов. Две основные обеспокоенности, возникшие при создании песочницы (ослабление регуляторной эффективности и сомнения в эффективности обучения регуляторов), не только не исчезли за десять лет практики, но иногда даже усилились. Несмотря на то, что оптимизация дизайна может смягчить некоторые проблемы, основная задача заключается в том, чтобы пересмотреть саму модель песочницы, особенно в свете ее продвижения для содействия инновациям в области генеративного ИИ. Учитывая, что масштабирование генеративного ИИ трудно преодолеть его неотъемлемые ограничения и что он уже оказал значительное негативное влияние на конфиденциальность, интеллектуальную собственность и экосистему, неосторожное использование механизма песочницы, который может ослабить правовую защиту, для содействия ИИ представляет слишком высокий риск. Исследовательский институт финансовых технологий Университета народного хозяйства Китая провел компиляцию основных частей исследования.
1. Введение
Регуляторные органы различных стран и областей по всему миру активно исследуют пути регулирования, подходящие для технологических новшеств. В 2015 году Управление по финансовому поведению Великобритании (FCA) объявило о создании механизма регуляторного песочницы для финансовых технологий, и с тех пор эта модель быстро охватила весь мир в течение следующего десятилетия. Основной замысел регуляторной песочницы заключается в следующем: отобранные компании могут запускать ограниченные испытания продуктов в среде, где ослаблены правила и снижены риски правоприменения. Ее цели двойственны: во-первых, она направлена на снижение возможных барьеров для входа, которые могут препятствовать инновациям в области финансовых технологий; во-вторых, она предоставляет регуляторным органам возможность понять новые технологии с тем, чтобы корректировать свои стратегии надзора в процессе испытаний в песочнице. В последние годы политики разных стран также проявили большой интерес к использованию механизма песочницы для содействия инновациям в области искусственного интеллекта и созданию новой структуры регулирования ИИ. Однако практика финансовых технологий за последние десять лет показывает, что перенос этой модели в сферу ИИ в качестве инструмента политики не имеет достаточных оснований.
Несмотря на то, что регуляторные песочницы были широко приняты, эмпирические доказательства их степени достижения целей по-прежнему остаются ограниченными. Существующие эмпирические исследования сосредоточены на показателях инноваций: способности участвующих компаний к финансированию, количестве полученных патентов и т. д. Такие данные не могут ни продемонстрировать влияние песочной механики на общую структуру регулирования финансовых технологий, ни подтвердить, что инновационные результаты, возникшие в песочнице, приносят пользу группам, выходящим за рамки инновационных субъектов.
Отсутствие поддержки данных имеет решающее значение — перспективы достижения целей финансово-технологического песочницы на самом деле не внушают оптимизма. Во-первых, пока неясно, может ли финансово-технологическое новшество принести достаточную социальную пользу, чтобы обосновать смягчение важных регуляторных норм, которые изначально были направлены на защиту потребителей и финансовой системы от вреда. Во-вторых, из-за недостатка представительности образца участников песочницы и особой среды, которая легко приводит к регуляторному захвату, знания, полученные регуляторами из эксперимента, имеют значительные ограничения. Каналы, по которым регуляторы делятся знаниями, полученными из песочницы, также ограничены.
Два. Теоретическая основа регулирующего песочницы
В 2016 году Управление по финансовому поведению Великобритании (FCA) определило свой первый регуляторный песочницу как "безопасное пространство, в котором предприятия могут тестировать инновационные продукты, услуги, бизнес-модели и механизмы доставки, при этом обеспечивая надлежащую защиту потребителей". В течение следующих десяти лет участники FCA сосредоточили свои усилия на разработке новых кредитных, инвестиционных, банковских и платежных продуктов с использованием технологий. Во многих юрисдикциях мира последовали примеру и создали механизмы регуляторных песочниц для финансовых технологий. Несмотря на то, что между песочницами, разработанными различными регулирующими органами, существуют значительные различия в структуре и целях, их основная цель обычно включает в себя следующие элементы:
Поддержка финансово-технологических компаний, стремящихся предложить инновационные продукты, услуги или бизнес-модели;
Создание более эффективной и лучше управляемой системы финансовых услуг;
Уточнить взаимодействие между новыми технологиями и бизнес-моделями и регуляторной рамкой, выявить возможные барьеры для входа на рынок;
Способствовать эффективной конкуренции, выгодной для потребителей;
Увеличение доступности финансовых услуг.
Регуляторные песочницы обычно рассматриваются как механизм трех выигрышей: они помогают инноваторам получать финансирование и ускоряют выход продуктов на рынок; обеспечивают потребителям доступ к большему количеству финансово-технологических продуктов; позволяют регулирующим органам осознавать финансово-технологические продукты и их соответствие регуляторным нормам (и не говоря уже о формировании "дружественного к инновациям" имиджа юрисдикции).
С момента его создания FCA концепция регуляторного песочницы вышла за пределы финансовых технологий и расширилась на такие различные сферы, как автономное вождение и юридическая практика. Согласно отчету ОЭСР за 2023 год, в мире к тому времени было реализовано около 100 программ песочницы. Особенно в области искусственного интеллекта все более громко звучат призывы к приостановке регулирования через песочницу для содействия экспериментам в области ИИ.
Регуляторные песочницы имеют множество преимуществ:
На практике некоторые юрисдикции уже запустили тестирование AI в песочнице. Операторы финансовых технологических песочниц в таких странах, как Великобритания и Сингапур, начали исследовать финансовые приложения AI (в США, по меньшей мере, был предложен законопроект о создании песочницы для проведения экспериментов с AI финансовыми учреждениями). Также появились специальные песочницы для AI, независимые от финансового регулирования: в таких странах, как Великобритания и Норвегия, созданы песочницы, сосредоточенные на правилах конфиденциальности. В связи с тем, что Европейский Союз требует от государств-членов к 2 августа 2026 года как минимум запустить одну регулирующую песочницу для AI или участвовать в международной объединенной песочнице, такие механизмы в будущем будут стремительно расти внутри Европейского Союза. Этот законопроект предвидит возможность создания трансграничных песочниц для AI — учитывая необходимость работы AI-компаний в разных юрисдикциях и влияние междисциплинарного характера технологий AI, песочницы в рамках одной юрисдикции также нуждаются в координации регуляторов из разных ведомств.
В ответ на транснациональные характеристики финансовых услуг в 2019 году была создана Глобальная сеть инновационных финансовых регуляторов (GFIN), которая исследует механизм "транснационального тестирования (CBT)" (также известный как "глоб песочница"), стремящийся "создать среду, позволяющую компаниям последовательно или синхронно тестировать новые технологии, продукты или бизнес-модели в нескольких юрисдикциях". В октябре 2020 года GFIN запустила первый раунд заявок на транснациональное тестирование, требуя от заявителей соответствовать стандартам допуска всех целевых юрисдикций. Результаты реализации оказались неутешительными: из 38 заявок только 9 прошли оценку, и в конечном итоге только 2 компании вошли в фазу тестирования в реальных условиях. Этот механизм до сих пор не запустил второй раунд, что ставит под сомнение практику транснациональной песочницы. Но достаточно ли имеющихся эмпирических данных?
Три. Эмпирические доказательства десятилетней работы песочницы
Британское управление по финансовому регулированию и надзору (FCA) в 2017 году опубликовало первый "отчет о результатах" регуляторного песочницы, проведя самооценку своих первых экспериментов. В этом отчете положительно оценены результаты песочницы в следующих областях:
Сокращение времени выхода инновационных продуктов на рынок и потенциальное снижение затрат
Расширение каналов финансирования для инноваторов за счет снижения регуляторной неопределенности
Содействие введению большего количества продуктов в тестирование и их возможному выходу на рынок
Содействовать сотрудничеству между регуляторами и инноваторами, внедряя механизмы защиты потребителей в новые продукты и услуги.
Первые три цели напрямую касаются инновационных субъектов, в то время как последняя акцентирует внимание на общественных интересах — степень удовлетворенности FCA четвертой целью в значительной степени основана на "разработке индивидуализированных мер обеспечения тестирования совместно с предприятиями".
На сегодняшний день независимых эмпирических исследований в области регулируемых песочниц все еще недостаточно. Важное исследование, опубликованное экономистами Банк международных расчетов (BIS) в 2024 году, указывает: "Несмотря на то, что регулируемые песочницы широко используются и привлекают внимание со стороны политики, все еще недостаточно системных эмпирических доказательств того, действительно ли они способствуют финансированию, инновациям или созданию жизнеспособных бизнес-моделей для финансовых технологий". BIS, анализируя данные о привлечении капитала, выживаемости и патентах компаний из британской песочницы, подтверждает, что "песочница достигла одной из своих основных целей: помочь новым компаниям в области финансовых технологий в финансировании и стимулировании инновационной деятельности".
Данные исследования, как и самопроверка FCA, сосредоточены на влиянии песочниц на инновационные субъекты, доказывая, что участие в очереди песочницы выгодно для компаний. Однако этот вывод может вызвать опасения по поводу того, что государственные учреждения "выбирают победителей": неотобранные компании могут столкнуться с более жесткой инновационной средой. Исследователи BIS признают, что финансовые преимущества участников песочницы "соответствуют логике снижения информационных барьеров и неопределенности соблюдения в области инвестиций", но не исключают другую интерпретацию: "Квалификация для участия в песочнице сама по себе может стать кредитным подтверждением, способствующим финансированию компаний."
Более важно, что существующие ограниченные исследования отвечают лишь на "поверхностный" вопрос о том, является ли "регуляторный песочница" в целом полезной политикой. Авторы BIS особенно подчеркивают: "Результаты исследования не обязательно доказывают, что песочница явно увеличивает социальное благосостояние. Операции песочницы часто нуждаются в поддержке государственных средств, и содействие финансированию компаний является лишь одной из целей — улучшение благосостояния потребителей и поддержание финансовой стабильности столь же важны." Кроме того, исследование BIS основывается на предположении, что "песочница позволяет регуляторам предсказать влияние на социальное благосостояние до выхода продукта на рынок". А профессор права Дуг Сарро (Doug Sarro) на основе последнего исследования о практике песочницы криптовалют в канадских регулирующих органах ценным бумагам показывает, что даже после выхода продукта на рынок влияние песочницы на благосостояние потребителей и финансовую стабильность продолжает существовать.
Сало обнаружил, что, несмотря на общепринятое мнение о том, что компании после "выпуска" будут полностью соответствовать требованиям, провинциальные регуляторы ценных бумаг Канады "не только контролируют торговые платформы в песочнице, но и долгое время осуществляют надзор после их (номинального) выхода из песочницы". Он также поставил под сомнение эффективность мер по защите потребителей, разработанных для песочницы:
Регуляторы часто не могут предсказать новые риски торговых платформ, и действуют только тогда, когда риски становятся схожими с традиционными ценными бумагами или уже привели к значительному ущербу для потребителей, вызывая общественные вопросы.
Специальный адвокат по финансовым услугам для всех Генерального секретаря ООН (UNSGSA) и Центр альтернативных финансов Кембриджа (CCAF) в своем отчете 2019 года также выдвинули другие основания для сомнений, основные выводы которых следующие:
Ранний опыт регуляторных песочниц показывает, что этот механизм не является ни необходимым, ни достаточным для содействия финансовой инклюзии. Песочницы имеют свои преимущества, но их создание является сложным и дорогостоящим в эксплуатации. Практика показывает, что большинство регуляторных вопросов, связанных с тестированием в песочницах, могут быть эффективно решены без необходимости создания реальной тестовой среды. Инструменты, такие как офисы инноваций, могут достичь аналогичных результатов с меньшими затратами.
Иными словами, если финансовые технологии, требующие значительных ресурсов, будут перенаправлены в другое место, это может оказаться более эффективным (в этом отчете отмечается, что многие государственные регуляторы не ожидали такой интенсивности потребления ресурсов со стороны песочницы). Основная причина высокой ресурсной интенсивности заключается в том, что регуляторы должны предоставлять участникам индивидуальное наставничество — такая "регуляторная поддержка" обходится дорого, но без нее эффективность песочницы вызывает опасения (с точки зрения участника бизнеса). Эти выводы, безусловно, ведут к более глубоким вопросам: действительно ли для стимулирования инноваций в финансовых технологиях необходимы регуляторные исключения песочницы? Достаточно ли просто предоставлять руководство для стимулирования инноваций (и большинство финансовых регуляторов уже создали "центры инноваций" для предоставления таких услуг). Но более существенный вопрос заключается в том: соответствует ли использование государственных ресурсов для поддержки инноваций в частном секторе общественным интересам?
Четыре. Глубокие тревоги
Предыдущие исследования выявили множественные риски этой модели: регуляторы выбирают компании для песочницы, что на самом деле является "выбором победителей", подрывая справедливость регулирования; затраты на эксплуатацию песочницы часто превышают ожидания; её выгоды в большей степени идут Innovators, а не обществу; с распространением глобальных песочниц предельная полезность сигналов политики "дружественной к инновациям" продолжает снижаться. Недавние исследования сосредоточились на основной противоречии: финансовая технология песочница требует отложить выполнение ключевых норм, предназначенных для защиты потребителей и финансовой системы.
Поддержка песочницы подразумевает, что она по умолчанию принимает потенциальное увеличение общественных рисков, и ее теория основана на двух пунктах: во-первых, инновации принесут пользу обществу за счет повышения эффективности и конкуренции; во-вторых, песочница помогает регуляторам понять, как новые технологии работают на рынке, что позволяет оптимизировать долгосрочное регулирование. Однако в данном разделе будет доказано, что эти предположения не выдерживают критики в области финансовых технологий, и в области искусственного интеллекта они также сомнительны. Необходимо заранее отметить, что инновации не обязательно приносят пользу обществу — хотя их рассматривают как необходимые условия для повышения эффективности и конкуренции, конкретное содержание "эффективности" и "конкуренции" всегда вызывает споры в контексте, и множество интерпретаций на самом деле не способствует общему благосостоянию общества. Кроме того, когда финансовые регуляторы превращаются в "болельщиков" и спонсоров выбранных ими инноваций, их объективность и готовность к обмену знаниями ослабевают, тогда как само понимание регулирования уже искажено из-за выборочности участников песочницы.
A. В качестве песочницы для изучения регулирования
Участие предприятий в песочнице полностью добровольное, поэтому песочница принимает только активно подающие заявки инновационные субъекты. Это приводит к двойному когнитивному слепому пятну: регулирующие органы не могут понять полностью соответствующие требованиям предприятия, так как они не обязаны участвовать в песочнице, и не могут понять субъекты, которые считают, что не подлежат действующим нормативам. Даже среди заявивших предприятия, критерии отбора часто размыты, и множество заявок отклоняется без ясных оснований.
Знания, полученные регуляторами из песочницы, поэтому имеют врожденное искажение. Хотя восприятие искаженных образцов по-прежнему имеет ценность, не следует считать песочницу единственным или оптимальным способом получения знаний. Как наблюдает учреждение ООН: регуляторы вполне могут изучать новые технологии у стартапов через неформальные каналы. Ослабление регулирования вовсе не является необходимым условием для понимания финансовых технологий или искусственного интеллекта.
Другим недостатком генерации знаний о регулировании в песочнице является то, что механизм допуска порождает аномальные отношения между государством и бизнесом, усиливая риск "регуляторного захвата". Проще говоря, "регуляторный захват" означает, что регуляторы ставят интересы отрасли выше общественных интересов, и его мотивы могут быть как явными (например, коррупция), так и неявными. Типичный случай неявного захвата: регуляторы получают информацию в основном от самой отрасли (и не консультируются с независимыми исследователями и потребительскими группами), и их восприятие неизбежно пропитывается взглядами отрасли и в конечном итоге ассимилируется. Этот процесс называют "когнитивным захватом", а поверхностная технологическая сложность бизнес-моделей финансовых технологий более подвержена этому явлению. Если регуляторы не создадут базу технического восприятия через привлечение талантов или внутреннее обучение, их способность критически оценивать утверждения отрасли будет ограничена. Эта проблема также остро стоит в регулировании ИИ — мировые ИИ-компании активно захватывают регуляторов с помощью нарративов, таких как "регуляция замедляет инновации" и "вынуждает предпринимателей покидать страну".
Таким образом, действительно ли песочница может улучшить способности регуляторов в выполнении их функций, вызывает большие сомнения. Автор ранее указывал: "Регуляторная песочница может случайно помочь финансовым регуляторам выполнять функции контроля рисков, но ее популярность коренится в поверхностной предпосылке — то есть в том, что инновации в области финансовых технологий в частном секторе неизбежно соответствуют лучшим интересам общества." В дальнейшем будет внимательно рассмотрена разумность этой предпосылки.
B. Инновации как цель регулирования
Как говорит профессор права Дирдре Ахен, концепция регуляторной песочницы основана на "функции регулятора по улучшению выбора потребителей, цен и эффективности в общественных интересах" — это коренным образом отличается от регуляторной логики, сосредоточенной на управлении рисками. Однако есть все основания сомневаться: действительно ли "конкуренция" и "эффективность", порожденные песочницей финансовых технологий, являются благом для общества? Отказ от управления рисками может оказаться ошибочным суждением. Все больше признаков указывают на то, что сомнения в общественной полезности инноваций в области ИИ также имеют место. В этом контексте разумность политики, ослабляющей механизмы общественной защиты ради инклюзивных инноваций, вызывает сомнения — и это как раз и является сущностной логикой дизайна песочницы.
Политика, способствующая инновациям, в первую очередь должна приносить пользу самим инноваторам. Теоретическая предпосылка заключается в том, что инновации будут приносить вторичные выгоды для других, однако на практике не все инновации являются взаимовыгодными, и эта предпосылка не всегда оправдана. Например, Даг Сэло в своем исследовании канадского криптовалютного песочницы обнаружил: "Регуляторная практика по крайней мере частично подтверждает опасения — песочница может ставить инноваторов выше потребителей". Ранее проведенные мной и другими учеными исследования также показали, что многие финансовые технологии, помимо удобного интерфейса, не предлагают существенных технологических новшеств, а некоторые продукты даже наносят вред, представляя собой "хищническое поглощение" — на первый взгляд они обслуживают ранее исключенные маргинальные группы, но на самом деле осуществляют систематическую эксплуатацию. Источником прибыли финансовых технологий часто является не технологическое преимущество, а уклонение от правил защиты потребителей под видом "инноваций".
Все больше доказательств указывают на то, что сомнения в "двойной выгоде" генеративного ИИ также обоснованы (широкое понимание ИИ охватывает различные технологии; генеративный ИИ специально относится к инструментам, которые распознают закономерности с помощью огромного объема обучающих данных для создания нового контента). С 2024 года академическое сообщество начало резко ставить под сомнение реальную ценность генеративного ИИ. Например, Джим Ковелло, руководитель исследования акций Goldman Sachs — опытный аналитик, отслеживающий технологическую индустрию с эпохи пузыря доткомов, указывает на то, что разработанный в Силиконовой долине генеративный ИИ не имеет четких областей применения. Он также предостерегает: "Никогда в истории технологии не получали оценку в триллионы долларов сразу после появления... В прошлом технологические итерации всегда заменяли дорогие решения дешевыми, а теперь дорогие технологии пытаются заменить недорогую рабочую силу, и эта логика по своей сути трудна для понимания."
Основной недостаток данной модели ИИ заключается в склонности к галлюцинациям: модель часто генерирует ответы, которые выглядят авторитетно, но на самом деле ошибочны. Типичные ошибки включают: модель Google советует добавить клей Элмера, чтобы пицца стала более тянущейся; модель OpenAI не может правильно посчитать количество букв "r" в слове "strawberry". Более того, ИИ часто выдумывает литературу в поддержку своих выводов: исследование BBC 2025 года показало, что "13% ссылок ИИ на утверждения BBC содержат искажения или вообще не имеют соответствующего оригинала".
Если компания развернет подобные модели без какого-либо контроля, она может понести серьезные последствия — уроки, извлеченные из ситуации с Air Canada, тому подтверждение: после того как их чат-бот ошибочно ответил на запрос о похоронной политике, авиакомпания даже заявила, что "чат-бот должен нести ответственность сам", однако гражданский суд постановил, что она должна компенсировать клиенту ущерб и выплатить штраф. Введение "человеческого вмешательства" может снизить риск ошибок, но при этом нивелирует те преимущества в затратах, которые призвана обеспечить ИИ. Для исправления иллюзий, возникающих в выводах ИИ, необходимо затратить массу профессиональных ресурсов: исследование, проведенное платформой для фрилансеров Upwork в 2024 году, показало, что 96% руководителей ожидают, что инструменты ИИ повысят производительность компаний (39% обязаны использовать / 46% поощряют использование), но почти 47% сотрудников, использующих ИИ, признались, что "не знают, как достичь поставленных работодателем целей по повышению эффективности".
Учитывая вышеприведенные ограничения, ограниченное количество коммерческих приложений генеративного ИИ вовсе не является неожиданностью. Компании в целом настороженно относятся к таким инструментам, что может быть и к счастью — последние исследования показывают, что зависимость от инструментов ИИ имеет значительную отрицательную корреляцию с критическим мышлением. Несмотря на то, что ИИ рекламируется как "инструмент, освобождающий человека от рутинных задач для сосредоточения на высокоуровневом творчестве", реальность такова: высокие способности зачастую возникают именно из закалки в базовой практике.
Даже если оставить в стороне конкретные области, механизм песочницы вызывает разумные сомнения в качестве инструмента регулирования. Политическим деятелям особенно следует быть осторожными с искажёнными стимулами, порождаемыми песочницей: в идеальном состоянии законы и регулирующие органы должны передавать отраслям ясный сигнал о том, что "только соблюдение норм может гарантировать общественные интересы", но песочница может быть интерпретирована как "жертва юридического авторитета ради инноваций".
"Конкуренция" и "эффективность" на самом деле являются тестом Роршаха, отражающим ценности регуляторов. Например, "эффективность" несет разные ценностные оценки в разных областях и не может служить нейтральной и единой целью регулирования. Цели эффективности и конкуренции трудно предоставить регуляторам четкие ориентиры: при оценке песочницы регуляторы должны задаться вопросом "С какой точки зрения мы оцениваем конкуренцию и эффективность? С точки зрения участвующих компаний, всей отрасли или общественности?"
В отличие от затрат на создание песочницы для содействия инновациям, регуляторы должны принимать проактивные меры по предотвращению общественного вреда от новых технологий. Бывший временный директор Управления по контролю за финансовыми предприятиями Майкл Су предложил финансово-технологическую регуляторную модель "содействия и укрощения", которая также применима к широкому регулированию технологических инноваций.
Политика уступок может поддерживать дефектные технологии и искусственно поддерживать коммерческие модели, которые изначально не имели шансов на выживание. Учитывая, что новаторы обычно не имеют глобального понимания операционной среды (как уже упоминалось), укрощение часто является более предпочтительным путем. Исследователь культур технологий Алатри Вад указывает на инструменты ИИ:
Способность экспертов в области технологий искусственного интеллекта оценивать их социальные и политические последствия значительно ниже, чем у профессионалов, которые утверждают, что собираются изменить эту область. Врачи, учителя, социальные работники и законодатели, обсуждая ИИ, вовсе не являются незнающими – именно они наиболее квалифицированы для понимания потенциальных рисков злоупотребления автоматизацией в этой области.
Необходимо уточнить: писаные законы иногда действительно должны эволюционировать в интересах общества, но когда реформы регулирования проводятся в碎片化的方式 и в основном выгодны лишь нескольким компаниям в песочнице, это должно вызывать настороженность. Если регуляторам действительно необходимо экспериментировать с новыми стратегиями, до появления песочницы уже существовало множество инструментов, применимых ко всей отрасли. Агентства ООН при оценке песочниц финансовых технологий подчеркивают: "Принцип пропорциональности или риск-ориентированная система лицензирования может снизить затраты на соблюдение норм для стартапов и, в отличие от песочницы, охватывает всех участников рынка."
Неофициальные регуляторные меры могут быть эффективными при работе с быстро развивающимися технологиями, но всегда сопряжены с издержками — особенно с отсутствием права участия общественности и прозрачности регуляторных решений. Эти издержки особенно актуальны в контексте песочницы: частные компании имеют значительное влияние на регуляторные условия, затронутые группы даже не могут знать содержание условий, и тем более не могут выразить возражения. Когда продукты и технологии компаний песочницы имеют очень высокую сложность, регуляторы часто поддаются их "техническому авторитету", что облегчает им доминировать в разработке условий.
Регуляторы выступают в роли "помощников" песочницы, что приводит к снижению стандартов регулирования. Канадский случай показывает: криптовалютные компании, "выпускающиеся" из песочницы, по-прежнему не могут работать в соответствии с законом — потому что их природа прибыли зависит от арбитража регулирования, а не от технологических инноваций. Когда временное освобождение истекает, регуляторы сталкиваются с дилеммой: принудительное соблюдение приведет к закрытию компаний, или же освободить их от обязательств навсегда. Политико-экономическая реальность часто заставляет выбирать второе: экосистема сотрудников и клиентов, сформированная компаниями, создает сеть корыстных интересов, что затрудняет ужесточение правил для регуляторов.
Результатом этого стало разрывание правил, применение дифференцированных стандартов для различных компаний, что привело к созданию нечестной конкурентной среды и полностью противоречит изначальной цели песочницы "всестороннего соблюдения норм". Законодателям необходимо осознать: как только компания попадает в песочницу, регуляторы оказываются в ситуации вынужденного потакания, что заставляет их долгое время закрывать глаза на общественные риски. Основное решение заключается в переходе к модели укрощения — путем установления единой регуляторной рамки, которая ограничивает границы инноваций, а не путем жертвы общественных интересов ради технологического развития.
C. Проблемы управления трансграничными песочницами
Законодательство ЕС о искусственном интеллекте продвигает механизмы транснационального песочницы, подчеркивая особые проблемы трансграничного регулирования: противоречие между потребностями компаний, работающих в нескольких юрисдикциях, и зависимостью от малых юрисдикций. Однако трансграничное применение сталкивается с глубокими препятствиями — фрагментация стандартов регулирования, высокие затраты на координацию, размытость политических сигналов и другие проблемы, что дополнительно подтверждает обоснованные сомнения в отношении инструментов песочницы.
Глобальная сеть инновационных финансовых регулирующих органов (GFIN), основанная в 2019 году, хотя и нацелена на создание транснационального песочницы для финтеха, до сих пор успешно завершила только один транснациональный эксперимент, и лишь две компании вышли на этап реального тестирования. Важной причиной низкой степени принятия является то, что участники должны соответствовать различным регуляторным требованиям разных юрисдикций. Чтобы уменьшить затраты на согласование между несколькими юрисдикциями, GFIN использует механизм "ведущего регулирующего органа", но признает:
Ведущий регулирующий орган испытывает огромное давление ресурсов — необходимо координировать 38 заявок и 23 регулирующих органа, затрачивать значительные человеческие и материальные ресурсы, чтобы обеспечить своевременное разрешение вопросов как со стороны предприятий, так и со стороны регуляторов, гарантируя, что процесс подачи заявок будет продвигаться в соответствии с установленными сроками.
Увеличение эффективности трансграничного песочницы неизбежно требует координации и унификации правовых стандартов, но трансграничная координация на самом деле является высокополяризованным процессом, часто подверженным играм внутренних групп интересов. Любые "политические сигналы" песочницы будут растворяться в процессе координации — когда все юрисдикции принимают единые стандарты, не будет "дружественной к инновациям юрисдикции". Проблемы распределения ресурсов и ответственности также будут продолжать существовать — как в случае трансграничной деятельности, так и при межведомственном сотрудничестве на месте. Несмотря на то, что песочница призвана способствовать новым технологиям, эти вызовы координации ресурсов на самом деле являются привычными темами, а регулирующая песочница не предлагает никаких инновационных решений.
Пять, вывод
Данная статья продолжает исследования автора и утверждает, что в области финансовых технологий регуляторы должны придавать приоритет общественному управлению рисками перед повышением эффективности и конкуренции за счет частных инноваций. Все большее количество доказательств показывает, что этот принцип также применим в области генеративного искусственного интеллекта — поэтому внедрение AI песочниц вызывает множество опасений.
Хотя изящный дизайн песочницы может смягчить некоторые риски, мы не должны пропускать основные вопросы и сразу обсуждать технические решения: настало время переосмыслить применимость регуляторной песочницы в конкретных ситуациях. Обществу срочно необходимо коллективно переосмыслить «поклонение инновациям в стиле Силиконовой долины», и повышение бдительности к песочной модели (и к способам регулирования, которые она способствует) должно стать центральным элементом этого размышления. В конце концов, с момента появления регуляторной песочницы, впервые предложенной Управлением финансового поведения Великобритании, прошло более десяти лет, и до сих пор мало убедительных доказательств того, что эти ресурсоемкие инструменты регулирования действительно способствовали общественному благосостоянию.