AI におけるバイアスへの取り組み: 組織の欠点

組織は生産性を向上させる Gen AI の可能性に熱心に取り組んでいますが、SAS の調査によると、データ保護への懸念が依然として残っています。

次のような生成人工知能 (Gen AI) モデルの急速な出現 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 は、さまざまな分野の企業に魅力的な新しい機会を生み出してきました。これらの強力な言語モデルは、コンテンツ開発、コーディング、カスタマー サポートなどの幅広い業務に役立ちます。ただし、Gen AI の急速な導入により、組織はすぐに対処する必要がある重大なデータ プライバシーの脆弱性にさらされています。

大きな懸念の 1 つは、これらの AI システムの構築に使用されるトレーニング データです。大規模な言語モデルは、Web サイト、書籍、論文、ソーシャル メディアへの投稿など、大量のオンライン マテリアルを消費します。その多くには、個人データ、知的財産、その他の機密情報が含まれている可能性があります。これらのモデルを使用する企業は、この目的を意図していないデータの使用に関する重大な法的および倫理的問題に対処する必要があります。

世界では毎日 2025 エクサバイトの情報が生成されています。 Gen AI の利用拡大のおかげで、463 年までに、これは XNUMX 日あたり XNUMX エクサバイトに達すると予想されます。しかし、組織が AI を急速に導入し続けるにつれて、テクノロジーが重要なデータにどのような損害を与える可能性があるかについて懸念が高まっています。 

SAS Innovateの調査では、CEOの80%がデータのプライバシーとセキュリティについて懸念しており、企業のリーダーはガバナンス構造の欠如を認めていることが明らかになりました。

この調査によると、米国の組織は、企業と従業員の効率を向上させる Gen AI の可能性に熱心に取り組んでいます。しかし、現在の興奮の背後にあるリーダーたちは、理解のギャップ、戦略計画の欠如、スキル不足がテクノロジーの価値を最大限に達成し定量化する上での障害であると見ています。

組織は Gen AI の使用に課題を抱えている

Gen AI を使用しようとすると、組織は多くの大きな課題に直面します。まず、コンプライアンスを達成しながらデータ利用に対する自信を築くことを目指しています。 SAS のレポートによると、大規模言語モデル (LLM) におけるバイアスとプライバシーのリスクを測定するための信頼できるシステムを導入している組織は 93 組織に XNUMX 組織のみであり、驚くべきことに米国企業の XNUMX% には Gen AI のための包括的なガバナンス フレームワークが不足しています。大多数は新たな規制を遵守しないリスクにさらされています。

第 2 に、企業は Gen AI を既存のシステムや手順に統合しようとすると、互換性の課題に直面します。これらの新しいテクノロジーを既存のインフラストラクチャにスムーズに統合することは、依然として大きな課題です。

3番目の問題は、才能と能力です。人事部門が適任な人材を特定するのに苦労しているため、組織は社内の GenAI に関する知識が大幅に不足していることに気づき始めています。組織の幹部は、Gen AI への投資を適切に活用するための重要な能力が欠けていることを懸念しています。

最後に、LLM の導入にかかる費用を見積もることは、非常に困難であることが判明しています。モデル作成者は暫定的なコスト見積もりを出しますが、リーダーは、プライベートな知識の準備、トレーニング、モデルの運用管理に関連する法外な直接的および間接的なコストを報告しています。 GenAI 導入による正確な経済的影響は複雑で、過小評価されることもあります。

「組織は、大規模な言語モデルだけではビジネス上の課題を解決できないことに気づき始めています」とSASの戦略的AIアドバイザー、マリネラ・プロフィ氏は述べています。 Gen AI は、組織がすべてのビジネス目標を実現するのに役立つ新しいピカピカのおもちゃではなく、ハイパーオートメーションと現在のプロセスとシステムの加速に優れた貢献者として見なされるべきです。進歩的なポリシーを開発し、LLM の統合、ガバナンス、説明可能性を提供するテクノロジーに投資することは、すべての企業が両足で飛び込んで「閉じ込められる」前に取るべき重要なステップです。

「最終的には、最大の価値を提供し、持続可能かつ拡張可能な方法で人間のニーズを満たす現実世界のユースケースを発見することになります。私たちは、組織が関連性を維持し、賢明に投資し、この調査に柔軟に対応できるよう支援する取り組みを続けています。 AI テクノロジーがほぼ毎日進化している時代において、競争上の優位性は回復力ルールを受け入れる能力に大きく依存しています。」

ソース- テクノロジー雑誌