Комплаенс и управление рисками — идеальные варианты для расширения возможностей больших языковых моделей, учитывая множество задач, требующих интенсивного выполнения вручную. Любой, кому приходилось выявлять и обновлять положения о соблюдении требований в тысячах контрактов или количественно оценивать риски и управлять ими, приветствует тот факт, что LLMs могут значительно сэкономить время и повысить эффективность. 

Автор: Луис Коламбус, VentureBeat
 
Рабочие процессы управления, контроля рисков и соответствия требованиям (GRC) — узкие места в любой организации. Они замедляют время реагирования на запросы клиентов, поставщиков, отделов и подразделений. Задача — автоматизировать сложные рабочие процессы и продумать, где и зачем добавлять контекстную аналитику с помощью LLMs, сохраняя при этом конфиденциальность и безопасность данных.  
 
Большие языковые модели доказывают свою ценность, имея возможность обрабатывать и анализировать неструктурированные данные в больших масштабах. Компании, лидирующие в борьбе за интеграцию LLMs в сферу комплаенса и управления рисками, используют более компактные и точные модели для модернизации устоявшихся процессов, которые в прошлом не поддавались реинжинирингу с помощью роботизированной автоматизации процессов (RPA). Защита конфиденциальных данных в LLMs — основное требование к проектированию, с которым сталкиваются компании.
 
LLMs доказывают свой потенциал, оптимизируя GRC
 
Рабочие процессы GRC в любой организации не поддаются простой классификации и не способствуют повышению эффективности. RPA взялась за решение этой задачи много лет назад и добилась повышения эффективности, но ей не хватало глубины контекстной аналитики и моделирования, которые LLMsспособны использовать в качестве основной части своих архитектур. 
 
Учитывая скрытые потребности организаций в расширении знаний в области GRC и повышении эффективности, рынок автоматизации GRC в этой области, по прогнозам, будет расти двузначными среднегодовыми темпами до 2028 года. Gartner отмечает, что в 2022 году рынок GRC оценивался в 39,4 млрд долларов и, по прогнозам, вырастет до 76,4 млрд долларов к 2028 году, достигнув совокупного годового темпа роста (CAGR) в 11,6% в период с 2023 по 2028 год. Исследовательская компания прогнозирует, что к этому году юридические отделы автоматизируют 50% своей работы, связанной с крупными корпоративными сделками. К следующему году юридические департаменты утроят свои расходы на технологии. 
 
Как компании масштабно внедряют LLMs
 
Чтобы лучше понять, как ведущие поставщики программного обеспечения справляются с этой задачей, мы обратилась к 4CRisk и Relativity, двум компаниям, чьи подходы к революционным изменениям в области соблюдения нормативных требований и управления рисками с использованием LLMs заслуживают особого внимания. Компания Relativity обратилась к WinWire, одному из ведущих мировых партнеров Microsoft, за помощью в использовании возможностей Azure и генеративного ИИ для оптимизации электронного поиска, соответствия требованиям и управления рисками в своем пакете Relativity aiR. Центр передового опыта WinWire в области генеративного ИИ (CoE) предоставляет клиентам по всему миру лучшие в отрасли знания в области генеративного ИИ и Azure Open AI. Специалисты WinWire по ИИ известны своим передовым опытом в области интеграции gen AI. 
 
WinWire сыграла важную роль в модернизации ИТ-архитектуры Relativity, включая миграцию локальных приложений в облако Azure. Благодаря партнерству с WinWire компания Relativity повысила гибкость, безопасность и скорость предоставления услуг клиентам. 
 
Кит Карлсон, технический директор Relativity, объясняет, как технологический стек компании опирается на когнитивные сервисы Azure и сервисы реального времени, чтобы обеспечить каждому клиенту превосходный опыт работы с aiR suite. По его словам, пользовательский опыт улучшается благодаря наличию когнитивных сервисов Azure и сервисов реального времени, которые обеспечивают круглосуточную глобальную поддержку и ускоряют сроки выполнения работ. 
 
В Relativity утверждают, что облачные улучшения, которых WinWire помогла им достичь, продолжают окупаться за счет снижения затрат на инфраструктуру. «Благодаря внедрению облачных технологий и отказу от локальных решений мы значительно сократили как расходы на инфраструктуру, так и операционные расходы — примерно на 40% и 150% соответственно», — отмечает Карлсон. Эти изменения не только упростили работу, но и значительно повысили масштабируемость сервисов Relativity, что имеет решающее значение для обработки большого объема документов.
 
Карлсон объясняет, что LLMs революционизируют все аспекты GRC, а в основной области его компании — электронном поиске — уже происходят постепенные улучшения. Карлсон говорит, что LLMs уже доказали свою ценность благодаря точности прогнозирования, которую они обеспечивают при выявлении рисков, что важно для активного управления соответствием требованиям. Партнерство Relativity с WinWire значительно повысило надежность системы и сервиса, что особенно важно для поддержки крупномасштабной обработки данных, необходимой для компаний e-discovery. Это усовершенствование имеет ключевое значение в отрасли, где время простоя может быть особенно дорогостоящим и разрушительным.
 
«Работа в облаке, обеспечениее гибкости технологий и возможности их развертывания и адаптации очень важны для нас. Наличие сервисов Open Azure AI, интегрированных с анализом настроений, в дополнение к LLMs, их когнитивным сервисам и переводам позволяет использовать иностранный язык в рамках всего процесса обнаружения электронных данных», — говорит Карлсон. Сотрудничество Relativity с WinWire сыграло важную роль в использовании возможностей Azure для эффективной оптимизации процессов электронного обнаружения, соответствия требованиям и управления рисками.
 
Основатель и генеральный директор 4CRisk Венки Йеррапоту находится на переднем крае создания и доработки LLMs для решения конкретных задач в области соблюдения нормативных требований и управления рисками. «Мы разрабатываем языковые модели для сферы рисков и соответствия требованиям, которые могут быть частными, но не менее эффективными, чем любые другие крупные языковые модели, гарантируя, что конфиденциальность и безопасность данных никогда не будут нарушены», — объясняет Йеррапоту.
 
Трудности, с которыми сталкиваются LLMs
 
Карлсон и Йеррапоту назвали интеграцию и получение практических результатов от внедрения как два наиболее сложных аспекта масштабирования LLMs для обеспечения соответствия требованиям, управления рисками и решения более широких задач GRC. «Наша цель при эффективном внедрении LLM — повысить точность и результативность существующих систем, интегрировать их в правовые рамки и нормативно-правовое обеспечение и получить прибыль», — говорит Карлсон.  
 
Йеррапоту отмечает, что внедрение LLMs в рабочие процессы GRC позволило автоматизировать сложную обработку данных, которая ранее в значительной степени зависела от вмешательства человека. Он больше полагается на индивидуальный подход к внедрению LLMs, ориентированный на конкретную предметную область. «Разрабатывая модели, ориентированные на конкретную предметную область, 4CRisk сохраняет эффективность и обеспечивает надежную конфиденциальность, что имеет решающее значение для важных задач GRC», — отмечает Йеррапоту. 
 
«Использование небольших специализированных моделей позволяет нам масштабировать решения по обеспечению соответствия требованиям по всему миру без значительных финансовых затрат. Эти модели не только более управляемы, но и быстрее адаптируются к изменениям в законодательстве», — добавляет Йеррапоту.
 
Конфиденциальность и безопасность в эпоху искусственного интеллекта
 
«Наша философия обеспечения конфиденциальности включает в себя зашифрованные данные и работу в защищенных облачных средах в соответствии с самыми строгими законами о конфиденциальности», — говорит Еррапоту из 4CRisk.
 
И 4CRisk, и Relativity разработали архитектуры своих продуктов таким образом, чтобы они защищали LLMs от заражения данных и атак, нацеленных на точки интеграции их моделей. Поскольку соблюдение нормативных требований — ключевой фактор для сохранения конкурентоспособности каждой компании, их подход к LLMs в большей степени сосредоточен на обеспечении соблюдения требований в разных юрисдикциях и учете различий в нормативных требованиях и требованиях, предъявляемых к конкретным клиентам. 
 
Опыт WinWire в области интеграции позволил Relativity эффективно выполнять различные международные правовые требования. Карлсон подчеркивает, что глобальный охват Azure упрощает соблюдение местных законов, что часто является сложной задачей для технологических компаний.
 
Необходимость адаптации LLMs к изменяющимся нормативно-правовым условиям сегодня актуальна как никогда — и ее сложнее реализовать в масштабах. Поскольку предприятия внедряют LLMs в разных юрисдикциях, способность соответствовать различным требованиям становится залогом успеха международных операций. 
 
«В Relativity мы постоянно совершенствуем большие языковые модели, чтобы они были гибкими и совместимыми с международными стандартами. Наша технология разработана таким образом, чтобы развиваться так же быстро, как и нормативные акты, гарантируя нашим клиентам по всему миру постоянную поддержку, независимо от того, насколько разными могут быть их потребности в соблюдении требований законодательства», — подчеркивает Карлсон.
 
Йеррапоту отмечает, что их компания фокусируется на создании небольших, ориентированных на конкретную предметную область LLMs, которые не только работают с большей точностью, но и легко интегрируются в различные нормативные базы. «Такой целенаправленный подход помогает нам внедрять эффективные и адаптирующиеся к изменениям LLMs, предоставляя масштабируемые решения, которые не ставят под угрозу конфиденциальность или безопасность», — добавляет он.
 
Укрепление доверия за счет прозрачности информации о LLMs
 
Обе компании указывают на необходимость укрепления доверия с клиентами информируя их о том, как LLMs создаются, обновляются и масштабируются в соответствии с уникальными потребностями пользователей. 
 
Основа стратегии Relativity — разработка комплексной стратегии обеспечения конфиденциальности и безопасности, выходящей за рамки соблюдения юридических обязательств. «Доверие является краеугольным камнем наших отношений с клиентами. Гарантируя, что наши LLMs не только эффективны, но и безопасны и соответствуют требованиям, мы вселяем в наших клиентов уверенность в том, что их конфиденциальная информация надежно защищена», — говорит Карлсон.
 
Благодаря строгому соблюдению стандартов конфиденциальности и инновационному использованию LLMsдля обеспечения соответствия требованиям и управления рисками в режиме реального времени, 4CRisk и Relativity устанавливают новые стандарты безопасности GRC в быстро развивающуюся эпоху генеративного ИИ.
 
Ссылка на источник