Bekämpfung von Bias in der KI: Organisatorische Mängel

Unternehmen sind vom Potenzial der künstlichen Intelligenz (Gen AI) zur Produktivitätssteigerung begeistert, laut SAS-Untersuchungen bestehen jedoch weiterhin Bedenken hinsichtlich des Datenschutzes.

Das rasante Aufkommen generativer künstlicher Intelligenz (Gen AI)-Modelle wie z ChatGPT hat faszinierende neue Möglichkeiten für Unternehmen aller Branchen geschaffen. Diese starken Sprachmodelle können bei einer Vielzahl von Aufgaben hilfreich sein, darunter Inhaltsentwicklung, Codierung und Kundensupport. Die schnelle Einführung von Gen AI setzt Unternehmen jedoch großen Datenschutzlücken aus, die sofort behoben werden müssen.

Eine große Sorge sind die Trainingsdaten, die zum Aufbau dieser KI-Systeme verwendet werden. Große Sprachmodelle verbrauchen riesige Mengen an Online-Material wie Websites, Bücher, Artikel und Social-Media-Beiträge, von denen viele persönliche Daten, geistiges Eigentum und andere sensible Informationen enthalten können. Unternehmen, die diese Modelle verwenden, müssen sich mit den erheblichen rechtlichen und ethischen Fragen auseinandersetzen, die sich aus der Verwendung von Daten ergeben, die nicht für diesen Zweck bestimmt sind.

Jeden Tag generiert die Welt fünf Exabyte an Informationen. Bis 2025 wird dieser Wert voraussichtlich 463 Exabyte pro Tag erreichen, was teilweise auf die stärkere Nutzung von Gen AI zurückzuführen ist. Da Unternehmen jedoch immer schneller auf KI umsteigen, machen sie sich zunehmend Sorgen darüber, dass die Technologie ihren wichtigen Daten schaden könnte. 

Die Studie von SAS Innovate ergab, dass 80 % der CEOs über Datenschutz und -sicherheit besorgt sind, wobei die Unternehmensleiter einen Mangel an Governance-Strukturen zugeben.

Laut der Umfrage sind US-amerikanische Organisationen vom Potenzial der Gen AI zur Steigerung der Unternehmens- und Mitarbeitereffizienz begeistert. Allerdings sehen Führungskräfte hinter der aktuellen Aufregung Verständnislücken, einen Mangel an strategischer Planung und einen Fachkräftemangel als Hindernisse für die Erreichung und Quantifizierung des vollen Nutzens der Technologie.

Organisationen stehen beim Einsatz von Gen AI vor Herausforderungen

Unternehmen stehen beim Einsatz von Gen AI vor vielen großen Herausforderungen. Zunächst geht es ihnen darum, Vertrauen in die Nutzung ihrer Daten aufzubauen und gleichzeitig die Compliance zu gewährleisten. Dem SAS-Bericht zufolge verfügt nur jedes zehnte Unternehmen über ein zuverlässiges System zur Messung von Voreingenommenheit und Datenschutzrisiken in großen Sprachmodellen (LLMs), und erstaunliche 93 % der US-Unternehmen verfügen nicht über einen umfassenden Governance-Rahmen für Gen AI Bei den meisten besteht das Risiko, dass neue Vorschriften nicht eingehalten werden.

Zweitens stehen Unternehmen vor Kompatibilitätsproblemen, wenn sie versuchen, Gen AI in ihre bestehenden Systeme und Verfahren zu integrieren. Die reibungslose Integration dieser neuen Technologien in die bestehende Infrastruktur bleibt eine große Herausforderung.

Ein drittes Problem sind Talente und Fähigkeiten. Unternehmen stellen einen erheblichen Mangel an internem GenAI-Wissen fest, da Personalabteilungen Schwierigkeiten haben, qualifiziertes Personal zu finden. Führungskräfte von Organisationen befürchten, dass ihnen die wesentlichen Fähigkeiten fehlen, um ihre Investitionen in die Gen-KI richtig zu nutzen.

Schließlich hat sich die Schätzung der Kosten für die Einführung von LLMs als große Schwierigkeit erwiesen. Während Modellbauer vorläufige Kostenschätzungen abgeben, berichten Führungskräfte von exorbitanten direkten und indirekten Kosten im Zusammenhang mit der privaten Wissensvorbereitung, Schulung und dem Modellbetriebsmanagement. Die genauen finanziellen Auswirkungen des GenAI-Einsatzes sind kompliziert und werden manchmal unterschätzt.

„Unternehmen erkennen, dass große Sprachmodelle allein geschäftliche Herausforderungen nicht lösen können“, erklärte Marinela Profi, strategische KI-Beraterin von SAS. Gen AI sollte als hervorragender Beitrag zur Hyperautomatisierung und Beschleunigung aktueller Prozesse und Systeme angesehen werden und nicht als neues glänzendes Spielzeug, das Unternehmen dabei hilft, alle ihre Geschäftsziele zu erreichen. Die Entwicklung einer fortschrittlichen Politik und die Investition in Technologie, die Integration, Steuerung und Erklärbarkeit von LLMs ermöglicht, sind entscheidende Schritte, die alle Unternehmen unternehmen sollten, bevor sie mit beiden Beinen einsteigen und „eingesperrt“ werden.

„Es kommt darauf an, reale Anwendungsfälle zu entdecken, die den größten Nutzen bieten und die menschlichen Bedürfnisse auf nachhaltige und skalierbare Weise erfüllen. Wir setzen unser Engagement fort, Organisationen dabei zu unterstützen, relevant zu bleiben, intelligent zu investieren und mit dieser Forschung widerstandsfähig zu sein. In einer Zeit, in der sich die KI-Technologie praktisch täglich weiterentwickelt, hängt der Wettbewerbsvorteil stark von der Fähigkeit ab, Resilienzregeln zu akzeptieren.“

Quelle- Technologiemagazin