Верховный комиссар ООН по правам человека Мишель Бачелет призвала ввести мораторий на системы искусственного интеллекта, которые угрожают правам человека, до тех пор, пока правительства не смогут установить гарантии. Приложения ИИ, нарушающие закон о правах человека, должны быть запрещены, заявила Верховный комиссар Мишель Бачелет. Ее комментарии последовали за публикацией доклада ООН, предупреждающего о существующих нарушениях прав человека, связанных с системами искусственного интеллекта в различных секторах, включая правоохранительные органы.

В докладе предупреждается о потенциальных злоупотреблениях в результате безответственного использования ИИ, включая ошибочные предположения алгоритмов ИИ, которые могут, например, ошибочно отнести людей к террористам или мошенникам. В докладе также выражалась озабоченность по поводу неспособности большинства моделей искусственного интеллекта объяснить свои результаты, которые он назвал "проблемой черного ящика". Алгоритмы машинного обучения не основаны на правилах, вместо этого они используют матрицы чисел, или "веса", между большим количеством цифровых нейронов.

В документе ООН также поднималась проблема конфиденциальности, утверждая, что инструментам искусственного интеллекта не должны тренироваться на персональных данных, чтобы делать выводы о поведении человека. "Инструменты искусственного интеллекта могут делать далеко идущие выводы об отдельных людях, в том числе об их психическом и физическом состоянии, и могут позволить идентифицировать группы, такие как люди с определенными политическими или личными склонностями", - предупреждает он.

В докладе предлагается ряд мер по смягчению негативных последствий для прав человека. К ним относятся законодательство и регулирование, сотрудничество между государственным и частным секторами и должная осмотрительность при внедрении систем искусственного интеллекта. В докладе сформулирован призыв к прозрачности характера используемых систем, кто их использует и для чего, а также какие данные они используют.

Прозрачность — это то, за что также выступает Федеральная торговая комиссия, но теперь ООН пошла дальше, рекомендуя правительствам создавать реестры, содержащие эту информацию. “Искусственный интеллект может быть силой добра, помогая обществам преодолевать некоторые из величайших вызовов нашего времени", - сказала Бачелет. "Но технологии искусственного интеллекта могут иметь негативные, даже катастрофические последствия, если они используются без достаточного учета того, как они влияют на права человека людей".

ООН ранее уже заявляла о ненадлежащем использовании технологий, призывая ввести мораторий на продажу технологий наблюдения и указывая на недопустимость использования шпионских программ для прослушивания смартфонов.

Оригинал публикации Дэнни Брэдбери - см. на портале ITPro