AIチャットボット、ニュースの正確性に課題があることが調査で判明

Forum AIによる調査で、AIチャットボットがニュースや時事問題に関して正確な回答を提供することに苦慮しているケースが多いことが明らかになった ^[1]。

これらのツールが数百万人にとって主要な情報源となるにつれ、誤情報の拡散リスクが高まっている。今回の結果は、生成AIの広範な普及と、システムが生成する事実データの信頼性との間に深刻な乖離があることを浮き彫りにした ^[2]。

Forum AIの共同創設者であるRobbie Goldfarb氏は、CBS Newsとのインタビューでこの結果について語った。Goldfarb氏は、技術は進化しているものの、AIにおけるニュース検索の現状は不十分であると述べ、「やるべきことがたくさんある」と語った ^[1]。

この調査は、同セクターが急成長を遂げている時期に行われた。現在、世界中で10億人以上の人々がAIチャットボットを利用している ^[2]。この普及規模は、時事報道における不正確さがほぼ瞬時に世界中の視聴者に届くことを意味し、デジタルリテラシーと事実確認における課題となっている。

Forum AIは、ユーザーが速報ニュースや最近発生した特定の歴史的出来事について質問した際、チャットボットがどの程度信頼できるかを評価するためにこの研究を設計した。その結果、リアルタイム報道の複雑さを処理する際、システムが高い正確性の基準を維持できないことが多いことが示唆された ^[1]。

Goldfarb氏らのチームは、これらの失敗を定量化することで、開発者がより厳格に事実データに基づいた設計を行うよう促すことを目的とした。本研究は、AIの回答速度が必ずしもその真実性と相関しているわけではないことを強調している ^[2]。