生成AI活用における課題は「誤情報の生成」が最多に！次いで「セキュリティに関するリスク」や「回答品質の一貫性の欠如」【AI inside調査】

「Q1.お勤め先の生成AIの活用状況について教えてください。」と質問したところ、「全社的に本格活用中」が33.9%、「一部の部門で活用中」が32.1%、「試験的に活用中（PoC実施中含む）」が14.7%という回答となりました。

「Q2.生成AIの活用にあたり、技術的な課題に不安を感じていますか。」と質問したところ、「非常に感じている」が22.5%、「やや感じている」が61.9%という回答となりました。

Q2で「非常に感じている」「やや感じている」と回答した方に、「Q3.生成AIの活用にあたり、どのような技術的な課題に不安を感じますか。」と質問したところ、「誤情報の生成（ハルシネーション）」が59.2%、「機密情報の漏洩などセキュリティに関するリスク」が54.9%、「回答品質の一貫性の欠如」が54.3%という回答となりました。

Q3で「わからない/答えられない」以外を回答した方に、「Q4.Q3で回答した以外に、生成AI活用にあたっての技術的な課題への不安があれば、自由に教えてください。」と質問したところ、「著作権対応」や「参考元の情報の精査」など101の回答を得ることができました。

＜自由回答・一部抜粋＞
各国の法規制への対応。
著作権対応。
参考元の情報の精査。
活用する人によってリテラシーが異なること。
情報の信憑性。人権侵害の恐れ著作権侵害の恐れ。
再現度が不十分なためチェックが欠かせない。
正確性への疑問。

「Q5.生成AIを効果的に活用するために、技術観点において、どのような要素が必要だと感じますか。」質問したところ、「セキュリティの強化」が59.2%、「AIが生成した誤情報への対策（ハルシネーション対策）」が55.5%、「出力結果の一貫性」が51.8%という回答となりました。

Q1で「全社的に本格活用中」「一部の部門で活用中」「試験的に活用中（PoC実施中含む）」と回答した方に、「Q6.生成AIの活用において、どのような課題を感じていますか。」と質問したところ、「AIが生成した誤情報（ハルシネーション）の検出と対策」が56.8%、「セキュリティとプライバシー保護の徹底」が56.8%、「AI出力結果の一貫性と品質の管理体制の構築」が47.2%という回答となりました。

「Q7.あなたは、特定企業データを活用したカスタマイズSLM（特化型小規模言語モデル）の利用を検討していますか。」と質問したところ、「かなり検討している」が32.0%、「やや検討している」が44.5%という回答となりました。

調査名称：生成AIの業務適応と課題に関する実態調査
調査方法：IDEATECHが提供するリサーチデータマーケティング「リサピー®︎」によるインターネット調査
調査期間：2024年10月1日〜同年10月2日
有効回答：大企業（年商500億円以上）に勤めており、業務における生成AIの導入に携わった方218名
※構成比は小数点以下第2位を四捨五入しているため、合計しても必ずしも100とはなりません。

出典元：AI inside 株式会社（AI inside Inc.）

※詳細については出典元の企業にお問い合わせください。