Обещания искусственного интеллекта сэкономить время и деньги покорили как сотрудников, так и руководителей бизнеса. Но главный вопрос в том,… не слишком ли это хорошо, чтобы быть правдой? Какими бы заманчивыми ни были эти преимущества, необходимо также серьезно оценивать риски, связанные с этой новой технологией.

Автор: Майкл Грей, технический директор Thrive
 
Баланс рисков и выгод, связанных с ИИ, заставляет многие организации задуматься о том, как правильно внедрять технологию. Каждое внедрение в каждой организации будет выглядеть по-своему, а это означает, что баланс рисков и выгод также будет отличаться в зависимости от сценария. Здесь мы расскажем об обещанных вознаграждениях и потенциальных подводных камнях, связанных с внедрением технологий генеративного искусственного интеллекта, а также о некоторых вопросах, которые помогут определить, является ли это правильным шагом для вашего бизнеса.
 
Награды
 
Хотя об этом уже много говорилось, стоит отметить, что генеративный ИИ фактически изменил правила игры, когда речь зашла о доступности ИИ для широких масс. Большие языковые модели (LLMs), такие как ChatGPT, привлекли внимание обычных работников и потребителей так, как это было невозможно при использовании более ранних технологий искусственного интеллекта и автоматизации. Более того, практически каждый может использовать эту технологию, не имея никаких знаний в области программирования или статистики.
 
Это означает, что теперь любой желающий может проводить исследования, разрабатывать программы, создавать контент и многое другое на новых скоростях, повышая производительность и освобождая время. По прогнозам McKinsey, благодаря своей доступности генеративный ИИ может ежегодно приносить экономике до 4,4 трлн долларов, значительно повышая производительность труда во всех секторах. Потенциал этой технологии, когда она будет раскрыта, огромен.
 
Риски
 
Однако внедрение искусственного интеллекта сопряжено с рядом рисков. В зависимости от вашего бизнеса, результатов, которые вы хотите получить, и типов данных, которые вы используете, стоит тщательно оценить, не перевешивают ли риски преимущества.
 
Прежде всего — данные. Чтобы ИИ мог работать с набором информации, он должен иметь доступ к исходным данным. Другими словами, вы не можете попросить ChatGPT написать блог с кратким описанием последних шести обновлений продукта, если у него нет доступа к информации об этих обновлениях. И какой бы обширной ни была эта информация, она должна быть проверена на предмет точности, актуальности и, самое главное, конфиденциальности, что становится чрезвычайно важным при работе с публичными LLMs.
 
Если пользователь загружает личную информацию в общедоступную LLM, эта информация становится ее частью, и, соответственно, конфиденциальная информация компании может оказаться в открытом доступе. А благодаря лицензионным соглашениям с конечными пользователями, с которыми люди часто соглашаются, почти не глядя, эти данные теперь находятся во власти поставщика услуг LLM и, вероятно, будут использоваться для обучения модели. Выявление областей, где отсутствуют внутренние брандмауэры и разрешения, крайне важно для предотвращения утечки данных и потери конфиденциальной информации.
 
Однако компании должны беспокоиться не только о данных, поступающих в LLMs, но и об информации, которую они получают обратно. Никто не должен принимать ответы, полученные с помощью инструментов генеративного ИИ, за чистую монету. Ответы могут быть предвзятыми, неточными или просто выдуманными. Важно понимать, откуда модель берет информацию и относиться к ней со здоровой долей скептицизма, прежде чем использовать или продвигать ее в каким-либо значимом направлении. И помните, что все, что создано генеративным ИИ, является общественным достоянием — будьте осторожны, когда ставите свое имя под чем-либо, написанным генеративным ИИ, поскольку это может привести к нарушению авторских прав.
 
Как определить, готовы ли вы?
 
Чтобы понять, какие шаги следует предпринять вашей организации, и готовы ли вы к внедрению искусственного интеллекта, задайте следующие вопросы:
 
* Почему мы хотим внедрить эту технологию? Какие результаты мы хотим получить?
* Какие варианты использования лучше всего подходят для достижения этих результатов?
* Какие инструменты генеративного ИИ позволят нам достичь этих целей?
* Как наши клиенты и партнеры отнесутся к тому, что мы используем эту технологию?
* Что может пойти не так и что это будет означать для бизнеса?
 
В зависимости от того, как вы ответите на эти вопросы, вы, скорее всего, определите следующий шаг. Небольшой банк с большим объемом личной информации может отказаться от использования генеративного ИИ до тех пор, пока не найдет способы защиты своих данных с помощью этого инструмента. Однако юридическая компания может посчитать его полезным для обобщения юридических исследований, необходимых для рассмотрения дела. Все зависит от варианта использования, компании и, в конечном счете, от пользователей.
 
Если организация все же решает сделать решающий шаг и инвестировать в искусственный интеллект, разработка политики и обучение сотрудников — важнейшие шаги по снижению рисков. Компания должна разработать и распространить политику в области искусственного интеллекта, описывающую допустимые инструменты и использование. Важно обозначить, какую информацию можно использовать в LLMs, а какую нельзя, а также кратко изложить лицензионные соглашения с конечными пользователями и порядок действий в случае нарушения этой политики. Сотрудники должны быть не только знакомы с правилами, но и пройти обучение по использованию инструментов и иметь возможность задавать вопросы.
 
Внедрение генеративного ИИ в каждой компании будет происходить по-разному, и это может не быть сценарий «все или ничего». Компания может решить, что сотрудники будут использовать эти инструменты, например, для исследований, но не для написания текстов.
 
Понимание рисков и выгод — первый шаг при внедрении любой новой технологии. Соблюдая правильный баланс, разрабатывая политику и снижая риски, организации могут начать реально пользоваться преимуществами искусственного интеллекта, обеспечивая при этом его ответственное использование.
 
Ссылка на источник