Борьба с предвзятостью в сфере ИИ: организационные недостатки

Организации в восторге от потенциала Gen AI для повышения производительности, но, согласно исследованию SAS, опасения по поводу защиты данных сохраняются.

Быстрое появление моделей генеративного искусственного интеллекта (Gen AI), таких как ChatGPT создало потрясающие новые возможности для компаний из разных областей. Эти сильные языковые модели могут помочь в широком спектре работ, включая разработку контента, кодирование и поддержку клиентов. Однако быстрое внедрение Gen AI подвергает организации серьезным уязвимостям конфиденциальности данных, которые необходимо немедленно устранять.

Серьезное беспокойство вызывают данные обучения, используемые для создания этих систем искусственного интеллекта. Большие языковые модели потребляют огромное количество онлайн-материалов, таких как веб-сайты, книги, статьи и публикации в социальных сетях, многие из которых могут содержать личные данные, интеллектуальную собственность и другую конфиденциальную информацию. Предприятиям, использующим эти модели, приходится сталкиваться со значительными юридическими и этическими проблемами использования данных, не предназначенных для этой цели.

Каждый день мир генерирует пять эксабайт информации. Ожидается, что к 2025 году этот показатель достигнет 463 эксабайт в день, отчасти благодаря более широкому использованию искусственного интеллекта поколения. Однако по мере того, как организации продолжают быстро внедрять ИИ, они все больше обеспокоены тем, как эта технология может нанести вред их важным данным. 

Исследование SAS Innovate показало, что 80% руководителей беспокоятся о конфиденциальности и безопасности данных, при этом руководители компаний признают отсутствие структур управления.

Согласно опросу, организации в США в восторге от потенциала Gen AI для повышения эффективности компаний и сотрудников. Однако за нынешним ажиотажем лидеры видят пробелы в понимании, отсутствие стратегического планирования и нехватку навыков как препятствия на пути достижения и количественной оценки полной ценности технологии.

Организации сталкиваются с проблемами в использовании искусственного интеллекта

Организации сталкиваются со многими серьезными проблемами, пытаясь использовать Gen AI. Для начала они стремятся укрепить уверенность в использовании своих данных, сохраняя при этом соответствие требованиям. Согласно отчету SAS, только одна из каждых десяти организаций имеет надежную систему для измерения предвзятости и риска конфиденциальности в моделях больших языков (LLM), а ошеломляющие 93% предприятий в США не имеют комплексной системы управления для Gen AI, что ставит большинство из них подвергается риску несоблюдения новых правил.

Во-вторых, предприятия сталкиваются с проблемами совместимости при попытке интегрировать ИИ поколения в свои существующие системы и процедуры. Беспрепятственная интеграция этих новых технологий с существующей инфраструктурой остается серьезной проблемой.

Третья проблема – талант и способности. Организации обнаруживают существенную нехватку собственных знаний в области GenAI, поскольку отделы кадров испытывают трудности с поиском квалифицированного персонала. Руководители организаций обеспокоены тем, что им не хватает необходимых возможностей для надлежащего использования своих инвестиций в поколение искусственного интеллекта.

Наконец, оценка затрат на внедрение LLM оказалась огромной трудностью. В то время как создатели моделей дают предварительные оценки затрат, руководители сообщают о непомерных прямых и косвенных расходах, связанных с подготовкой частных знаний, обучением и управлением операциями с моделями. Точные финансовые последствия внедрения GenAI сложны и иногда недооцениваются.

«Организации понимают, что одни только большие языковые модели не решают бизнес-задачи», — заявила Маринела Профи, стратегический советник SAS по искусственному интеллекту. Ген ИИ следует рассматривать как превосходный инструмент гиперавтоматизации и ускорения текущих процессов и систем, а не как новую блестящую игрушку, которая поможет организациям реализовать все свои бизнес-цели. Разработка прогрессивной политики и инвестирование в технологии, обеспечивающие интеграцию, управление и объяснимость программ LLM, являются важнейшими шагами, которые все предприятия должны предпринять, прежде чем прыгнуть обеими ногами и оказаться «запертыми».

«Все сводится к обнаружению реальных вариантов использования, которые обеспечивают наибольшую ценность и удовлетворяют потребности человека устойчивым и масштабируемым образом. Мы продолжаем оказывать помощь организациям в сохранении актуальности, разумном инвестировании и устойчивости с помощью этих исследований. В эпоху, когда технологии искусственного интеллекта развиваются практически ежедневно, конкурентное преимущество во многом зависит от способности принять правила устойчивости».

Источник- технологический журнал