Сегодня почти каждая организация и большинство частных лиц используют искусственный интеллект (ИИ) или экспериментируют с ним. Существует множество примеров того, как он меняет бизнес к лучшему — от маркетинга и HR до ИТ-команд. То, что когда-то было невозможно с точки зрения вычислений или требовало непомерно больших затрат, теперь доступно благодаря использованию искусственного интеллекта.

Автор: Денис Дорваль, вице-президент JumpCloud по EMEA и Азиатско-Тихоокеанскому региону
 
По данным Gartner, к 2026 году примерно 80% предприятий будут использовать API-интерфейсы или модели, основанные на генеративном ИИ (GenAI). По мере того как ИИ создает ценность для организаций, растет спрос и внедрение.
 
В современной цифровой среде существует феноменальное количество данных, которые мы можем использовать для обучения ChatGPT и других моделей GenAI. Искусственный интеллект может более естественно работать с данными, которые находятся в онлайн-мире, фиксируя определенные действия и события, чтобы предоставить больше информации и контекста. В частности, возможности ИИ для анализа разрозненных наборов данных, выявления закономерностей и прогнозирования тенденций чрезвычайно ценны для ИТ-руководителей.
 
87% респондентов планируют использовать ИИ
 
Неудивительно, что в последнем отчете SME IT Trends Report опрошенные организации активно планируют внедрение ИИ. На самом деле, только 13% глобальных компаний заявили, что у них нет никаких планов по внедрению инициатив в области искусственного интеллекта. Более половины респондентов (61%) планируют внедрение инициатив в области искусственного интеллекта в течение следующего года. 76% опрошенных согласились с тем, что их организации следует инвестировать в ИИ, а 63% уже разработали политику в области ИИ.
 
Однако одна из проблем, связанных с ИИ, заключается в том, как большие языковые модели (LLMs) подходят к сложным темам. Существует много поверхностных или неверных данных, и это создает ограничения для LLMs. Например, они могут изучать только те данные, которые доступны. Другими словами, LLMs предсказывают наилучшее следующее слово на основе того, что уже было предоставлено. Это здорово, если вам нужна помощь в работе с текстом, однако точность и контекст имеют решающее значение, поскольку результаты, полученные с помощью ИИ-решений, будут определять бизнес-решения и решения в области безопасности.
 
И хотя ИИ обеспечивает прорыв в способности по-разному обрабатывать логику, он также размывает границы между людьми и машинами. Вот почему управление учетными данными имеет решающее значение для обеспечения безопасного подключения людей к технологиям.
 
Почему искусственный интеллект меняет правила игры в IAM
 
Интеграция искусственного интеллекта в систему управления идентификацией и доступом (IAM) кардинально меняет ситуацию для компаний, стремящихся обеспечить безопасность и бесперебойную работу своих пользователей. Возможности ИИ позволяют внедрять более точные, эффективные и адаптируемые решения для управления учетными данными, которые могут оставить в прошлом трудоемкие процессы. На самом деле технология искусственного интеллекта уже начала революционизировать методы управления идентификацией и доступом, делая их более безопасными и эффективными.
 
Искусственный интеллект в управлении учетными данными может решить множество проблем, связанных с динамичным характером данных и поведением пользователей. Например, необходимость в более надежных мерах безопасности, сложность управления большими наборами данных и потребность в адаптивных методах аутентификации в современных разнообразных и динамичных рабочих средах.
 
Поэтому вместо того, чтобы предпринимать тщетные попытки затормозить инновации и ограничить использование ИИ, мы должны ответственно использовать его возможности, не создавая ненужных рисков. Поскольку ИИ все еще находится в зачаточном состоянии, сейчас самое время установить необходимые барьеры. Там, где есть возможности, есть и угрозы.


 
ИИ может стать слабым местом в системе безопасности компании
 


Решения с использованием искусственного интеллекта также привлекают пристальное внимание киберпреступников. Они осознают, что, хотя компании могут использовать ИИ для выявления слабых мест в системе безопасности и их устранения, сама технология может быть слабым местом в системе безопасности организации.
 
Так, согласно недавнему опросу Gartner Peers Insights о том, как команды разработчиков программного обеспечения используют GenAI, 38% респондентов указали на проблемы, связанные с кибербезопасностью, и столько же — с политикой управления, в то время как 41% заявили, что проблемой является стоимость инструментов искусственного интеллекта.
 
С появлением на рынке множества новых возможностей ИИ возникает необходимость в более эффективном контроле и управлении. В частности, поскольку системы ИИ обрабатывают огромные объемы конфиденциальных данных, организации должны уделять приоритетное внимание защите данных и соблюдать нормативные требования. Это включает внедрение методов анонимизации данных, обеспечение безопасных протоколов доступа к данным и рассмотрение возможности локальной обработки данных для минимизации риска утечки данных и обеспечения соблюдения законов о защите данных.
 
Проще говоря, организации, стремящиеся укрепить протоколы безопасности и улучшить пользовательский опыт, не могут игнорировать сложности защиты данных и этические соображения. Они также не могут игнорировать тот факт, что искусственный интеллект может ошибаться. На бумаге показатель ошибок в 15% может выглядеть неплохо, однако при работе с конфиденциальными данными это может привести к значительному финансовому и репутационному ущербу.
 
Скорость часто ставится выше управления рисками
 
ИИ интуитивно понятен, универсален и полезен. Интеграция искусственного интеллекта в систему управления идентификацией позволяет создавать более совершенные решения для IAM. Это потенциально может ускорить работу команд ИТ-администраторов и повысить их продуктивность. Однако компаниям следует воздержаться от слишком быстрых решений, которые могут привести к негативным последствиям. Поэтому организациям, стремящимся усилить меры безопасности с помощью ИИ, необходимо подходить к новым инициативам стратегически и продуманно.
 
Революция GenAI отличается от всего, что было до нее. ИИ изменит методы нашей работы, переосмыслит процессы, создаст новые возможности и перестроит процессы ИТ-команд. Однако во многих организациях отсутствует официальная политика управления ИИ, и это может привести к возникновению рисков в будущем. Именно здесь взаимосвязь между ИИ и идентификацией имеет решающее значение для безопасного подключения людей к технологиям и улучшения управления идентификацией с помощью ИИ.
 
Ссылка на источник