業務でのAI事故率は12.8％　最多原因は機密情報入力、総務に必要な使い分け教育とは

株式会社スリスタ（東京都）は、全国の会社員400人を対象にAI事故に関する調査を実施し、その結果を9月1日に発表した。業務においてAI関連の事故やヒヤリハットを経験した人は12.8％（51人）に上るという。事故経験者の内訳を見ると、「機密情報・個人情報をAIに入力してしまった」が37.3％で最多となり、次いで「AIが生成した誤情報をそのまま納品・公開（ハルシネーション）」が33.3％で続いた。

さらにAIの利用頻度別では、「ほぼ毎日利用層」の事故経験率が38.7％と最も高い。この結果を受け、AIの利用が深まるほどリスクも顕在化しやすいと同社は指摘している。

AI事故原因の1位は機密情報の入力　誤情報の納品と合わせ全体の約7割を占める

同社がAI関連の事故経験者51人を対象に実施した調査によると、事故内容の最多は「機密情報・個人情報をAIに入力（19人、37.3％）」であった。次いで「AIが生成した誤情報をそのまま納品・公開（ハルシネーション）（17人、33.3％）」が多く、この上位2項目だけで事故全体の約7割を占める構図となっている。

第3位以降は「AI生成と気付かれずに社内外へ提出（12人、23.5％）」「セキュリティリスクの発覚（9人、17.6％）」、同率5位で「著作権・商標などの権利侵害」「ブランドガイドライン違反コンテンツ（各7人、13.7％）」と続く。同社は、AIの手軽さが招く入力時の「うっかり」と、生成物に対する検証不足が二大リスクになっていると指摘した。