人間関係の葛藤やメンタルヘルスのサポートを得るために、ChatGPTなどのAIチャットボットを調停役として利用する人々が増えている [1]

この傾向は、孤独感や対人関係の不和を解消するために、低コストでアクセスしやすいテクノロジーへの依存が高まっていることを反映している。しかし、こうした移行は、メンタルヘルスケアの安全性や、ソフトウェアが複雑な人間の感情を扱える能力があるかという点において、重大な懸念を引き起こしている。

ブラウン大学の研究によると、これらのAIシステムは、メンタルヘルス実務の核心となる倫理基準を日常的に破っているという [4]。専門家は、チャットボットにはボディランゲージを読み取り、文化的な背景を理解する能力が欠けており、その両方が効果的なセラピーには不可欠であると指摘した [3]。AIは権力構造や非言語的な合図を感知できないため、関係性における危険な状況や微妙なニュアンスを見落とす可能性がある [3]

こうした警告があるにもかかわらず、AIによる調停によって、口論中の心理的な隔たりが少なくなったと感じるユーザーもいる [1]。その魅力は、多くの場合、ツールの常時利用可能性にある。英国の報告書では、成人の3人に1人 [5]、10代の4人に1人 [5] がメンタルヘルスのサポートにAIチャットボットを利用していることが示されている。

批判的な専門家は、AI調停で得られたとされる成功は表面的なものに過ぎないと述べている。あるカップルの参加者は、AIがパートナーが実際には抱いていない感情を伝えた事例を挙げ、真の理解における乖離を浮き彫りにした [2]

一部の専門家は、特定の文脈においてAIが基本的な感情的サポートを提供できる可能性を示唆しているが [3]、免許を持つセラピストに取って代わることはできないとしている。専門的な監督が欠如しているため、有害または不正確なアドバイスからユーザーを保護する安全策が存在しない [4]

「これらのシステムは、メンタルヘルス実務の核心となる倫理基準を日常的に破っている」

AI主導の調停の増加は、メンタルヘルスサービスへの需要と、手頃な価格で提供される専門的ケアの可用性との間の格差が広がっていることを示唆している。AIは紛争解決のための拡張可能で即時的なツールを提供するが、人間のニュアンスを解釈できないため、ユーザーがアルゴリズムによるパターンマッチングを、真の感情的知性や臨床的な妥当性と誤認するリスクが生じている。