多くの人が恐れていた瞬間がやって来た。 人工知能によって書かれた応答と政治家によって話された応答をどのように区別するのでしょうか? 議論の中で？そして何よりも、どちらがより説得力があると思われるでしょうか？
直観は、人の言葉がより真実であると私たちに考えさせます。結局のところ、彼らの背後には経験、信念、そして政治的キャリアがあるのです。一方、人工知能は自分の意見を持たず、自分が書いたものを信じません。次に最も可能性の高い単語が何であるかを予測するだけです。そして、 文脈ややり取りに応じて、自分の意見を180度変えることができます。
しかし、新しい研究は、私たちの直感が間違っている可能性があることを示唆しています。ドイツのパッサウ大学の科学者チームは次のことを検証しました。 参加者が政治家からの実際の回答と、人工知能によって生成された他の回答を、どちらがどっちなのか分からないまま比較する場合、最終的には AI のものをより高く評価することになります。彼らは、それらがより明確でより関連性があるだけでなく、より本物であると考えています。
この結論に達するために、PLOS One に掲載された研究の著者らは英国のテレビ番組に目を向けました。 質問タイム、 政治家やその他の著名人が国民の質問に答えるテレビ空間 時事問題について。 Steffen Herbold 率いる著者らは、いくつかの実際の介入を選択し、人工知能モデルに、あたかも同じ人が同じ文脈で発話したかのように別の応答を書くように依頼しました。その後、両方の回答を約 950 人のボランティアに示しました。 参加者は、応答すると思われる政治家や著名人の名前を知っていたが、 彼らは、2 つの答えのうち 1 つが人工知能によって書かれたものであることに気づきませんでした。
彼らの仕事は、どれが自分たちにとって最適であるかを評価することだけでした。使用モデル (Chat-GPT 4) が勝者でした。平均して、人工知能によって生成された回答は、いくつかの重要な側面で元の回答よりも高いスコアを獲得しました。 参加者は、それらがより関連性があり、議論においてより一貫性があり、そしておそらく最も驚くべきことに、より本物であると考えました。つまり、 機械は、模倣している本物の人間よりも優れた誠実な印象を伝えることができました。
問題は、どうすればマシンをより本物らしく見せることができるかということです。おそらく、人工知能の方が誠実であるという説明ではないでしょう。実際には、それはもっと基本的なものです。 Chat-GPT がプログラムされたとき、プロンプトは非常に明確でした。この質問には、あなたが正しい人であるかのように答えてください。 追加情報を与えず、指示された人の名前を言わずに、質問にのみ答えることを忘れないでください。」
大規模な言語モデルは何百万ものテキストでトレーニングされており、明確さ、論理構造、矛盾のなさ、適切な口調など、読者が一般的によく構築された応答から連想する特徴を学習します。ある意味、AI は意見を表明しようとしているのではなく、統計的に最も説得力のある答えを導き出そうとしているのです。しかし 重要なのは、AI が質問に確実に答えるということです。
一方、本物の政治家は、圧力を受けて対応したり、即興で答えたり、特定の質問を避けたりする必要があるだけでなく、主題を変更したり、自分の主張を必ずしも理解しやすくするわけではない修辞戦略を使用したりすることもあります。 逆説的ですが、自然発生的な人間同士の会話に特有のこのような不完全さにより、応答の説得力が低下する可能性があります。 アルゴリズムによって注意深く作成されたものとは異なります。
この研究では、別の興味深い結果も見つかりました。 参加者のイデオロギーが回答の評価方法に影響を与えた。ボランティアは、それが人間によって書かれたものであるか人工知能によって書かれたものであるかに関係なく、自分たちの政治的立場に近いと認識した介入をより好意的に評価する傾向がありました。
著者らは、これらの結果が公的議論の将来にとって重要な疑問を提起していることを強調している。人工知能が、多くの人が本物の政治家よりも説得力があると考える回答を導き出すことができれば、本物の介入と自動的に生成された介入とを区別することがますます困難になる。 それは、機械が政治的代表者に取って代わるという意味ではありません。しかし、もし このテクノロジーが選挙運動、公開討論会、ソーシャル ネットワークにどのような影響を与えるかを私たちに考えさせます。
「総合すると、この研究は結論付けています。これは、法的言説が、政治分野における発言の性質について国民を誤解させるために利用される可能性があることを意味します。これは、私たちの指摘につながります」 これが社会に引き起こす可能性のある潜在的な害について一般の人々に知らせる切実な必要性何百万人もの人々が短いメッセージに基づいて意見を形成しており、その投稿者を確認することがますます困難になる可能性があります。」
最後の質問は政治的な議論に値します。 人間は本物かどうかを判断するのが苦手なのでしょうか、それとも AI は人間を模倣するのがますます上手になっているのでしょうか?
