Att tackla bias in AI: Organisatoriska brister

Organisationer är entusiastiska över Gen AI:s potential för att öka produktiviteten, men enligt SAS forskning kvarstår rädslan för dataskydd.

Den snabba uppkomsten av generativ artificiell intelligens (Gen AI) modeller som t.ex ChatGPT har skapat fascinerande nya möjligheter för företag inom olika områden. Dessa starka språkmodeller kan hjälpa till med ett brett utbud av jobb, inklusive innehållsutveckling, kodning och kundsupport. Men det snabba antagandet av Gen AI utsätter organisationer för stora sårbarheter för datasekretess som måste åtgärdas omedelbart.

En stor oro är träningsdata som används för att bygga dessa AI-system. Stora språkmodeller förbrukar enorma mängder onlinematerial, såsom webbplatser, böcker, tidningar och inlägg i sociala medier, av vilka många kan innehålla personuppgifter, immateriella rättigheter och annan känslig information. Företag som använder dessa modeller måste ta itu med de betydande juridiska och etiska frågorna med att använda data som inte var avsedda för detta ändamål.

Varje dag genererar världen fem exabyte information. År 2025 förväntas detta nå 463 exabyte per dag, delvis tack vare ökad användning av Gen AI. Men när organisationer fortsätter att ta till sig AI i snabb hastighet, blir de oroliga för hur tekniken kan skada deras viktiga data. 

SAS Innovate-studie avslöjade att 80 % av vd:arna är oroliga för datasekretess och säkerhet, och företagsledare erkänner att de saknar ledningsstrukturer.

Enligt undersökningen är amerikanska organisationer entusiastiska över Gen AI:s potential att öka företagens och anställdas effektivitet. Men bakom den nuvarande spänningen ser ledare förståelseluckor, brist på strategisk planering och kompetensbrist som hinder för att uppnå och kvantifiera teknikens fulla värde.

Organisationer har utmaningar med att använda Gen AI

Organisationer står inför många stora utmaningar när de försöker använda Gen AI. Till att börja med strävar de efter att bygga upp förtroende för deras dataanvändning samtidigt som de uppnår efterlevnad. Enligt SAS-rapporten har bara en av tionde organisationer ett tillförlitligt system på plats för att mäta partiskhet och integritetsrisk i stora språkmodeller (LLM), och häpnadsväckande 93 % av amerikanska företag saknar ett heltäckande ramverk för styrning av Gen AI, vilket innebär att majoriteten riskerar att inte följa nya bestämmelser.

För det andra möter företag kompatibilitetsutmaningar när de försöker integrera Gen AI i sina befintliga system och procedurer. En smidig integrering av dessa nya tekniker med befintlig infrastruktur är fortfarande en stor utmaning.

Ett tredje problem är talang och förmågor. Organisationer upptäcker en betydande brist på intern GenAI-kunskap, eftersom HR-avdelningar kämpar för att identifiera kvalificerad personal. Organisationsledare är oroade över att de saknar de nödvändiga förmågorna för att på rätt sätt utnyttja sina investeringar i Gen AI.

Slutligen har det visat sig vara en enorm svårighet att uppskatta kostnaderna för att anta LLM. Medan modelltillverkare ger preliminära kostnadsuppskattningar, rapporterar ledare orimliga direkta och indirekta kostnader förknippade med privat kunskapsförberedelse, utbildning och modelldrift. De exakta ekonomiska konsekvenserna av GenAI-distribution är komplicerade och ibland underskattade.

"Organisationer inser att stora språkmodeller ensamma inte löser affärsutmaningar", säger Marinela Profi, SAS strategiska AI-rådgivare. Gen AI bör ses som en utmärkt bidragsgivare till hyperautomatisering och accelerationen av nuvarande processer och system, snarare än en ny glänsande leksak som hjälper organisationer att förverkliga alla sina affärsmål. Att utveckla en progressiv policy och investera i teknik som ger integration, styrning och förklaring av LLM:er är viktiga steg som alla företag bör ta innan de hoppar in med båda fötterna och blir "låsta".

"Det kommer att handla om att upptäcka verkliga användningsfall som ger mest värde och möter mänskliga behov på ett hållbart och skalbart sätt. Vi fortsätter vårt engagemang för att hjälpa organisationer att förbli relevanta, investera intelligenta och vara motståndskraftiga med denna forskning. I en tid där AI-tekniken utvecklas praktiskt taget dagligen, är konkurrensfördelar starkt beroende av förmågan att acceptera regler för motståndskraft."

Källa- tekniktidning