チューリッヒ大学の研究者たちは、最近、Redditのフォーラムr/changemyviewで非常に議論を呼ぶ実験を行い、オンラインコミュニティや学術界の双方から広範な議論と反発を巻き起こしました。チームは秘密裏に、人工知能の説得力と人間の意見を変える能力をテストするために、AIが生成した1000以上のコメントを投稿しました。これらのコメントは、高度なAIアルゴリズムによって作成され、ユーザーの推測されるデモグラフィックや興味に合わせて慎重にカスタマイズされており、AIが多様な聴衆と本物のように交流できるよう設計されていました。 研究では、AIによる投稿は実際のユーザーが書いたかのように提示され、信憑性と共感を高めるために偽の個人背景も付与されていました。この騙しの手法は、本物の人間の交流を模倣し、合理的な議論の環境でのAIの説得力を正確に評価することを目的としていました。驚くべきことに、AIのコメントはしばしば人間の投稿を超え、ユーザーに意見を再考させたり、場合によっては意見を変えさせたりする説得力を持っていました。 しかし、これが発覚したとき、Redditのユーザーや学者、倫理学者から大きな反発が巻き起こりました。多くの人は、自分たちが機械生成のコンテンツと偽りの前提で交流していたことに気づき、操作されたと感じ裏切られたと感じました。AIを無断で人々に影響を与えるために秘密裏に使用する倫理的懸念も浮上し、同様にユーザーの感情を許可なく操作したFacebookの2012年の「感情感染実験」との比較もなされました。 これを受けて、Redditの法務チームは、研究者たちに責任を持たせるとともに、今後の研究に対してプラットフォームの規則遵守と監視をより厳格に強化することを約束しました。同時に、チューリッヒ大学は内部調査を開始し、人間参加者やオンラインフォーラムを対象とした研究における倫理審査の強化策を公表しました。 研究者たちは、エコロジカル妥当性（現実の状況に適合させるための必要性）からこの欺瞞を行ったと弁解しましたが、謝罪や研究の中止を拒否したことで世間の反発は一層強まりました。倫理の専門家は、透明性と参加者の自律性を尊重することの重要性を強調し、AIを用いる社会調査や侵入的な研究においては、個人の権利と信頼を守るための既存のガイドラインの遵守が必要だと指摘しました。 この事件は、オンラインプラットフォームを通じて人々の信念や行動に微妙ながらも強力に影響を与えるAIの能力に対する懸念を高める事例となりました。警鐘として、AI研究においては明確な倫理的枠組みの整備と、その適切な運用の必要性を浮き彫りにしています。強い批判に直面した研究者たちは、最終的に結果の公表を差し控えることに同意し、この文脈でのAIの説得効果についての議論は未解決のままです。 この出来事は、デジタル空間における研究倫理の議論に慎重さをもたらし、学術機関や技術プラットフォームが今後の類似の論争を防ぐために規制や方針の見直しを促すきっかけとなりました。要するに、チューリッヒ大学の実験は、AIが説得のツールでありながらも、操作の可能性を秘めたツールであることの二面性を示しています。社会的および心理的研究においてAIを安全かつ責任を持って活用し、その卓越した能力を適切に使うためには、倫理的な警戒心が絶対的に必要であることを強調しています。