AIモデルにバイアスが存在するのはなぜですか？

こんにちは、私の名前はJudyです。Anthropicで働いています。私はAIモデルにおけるバイアスの理解に取り組んでいます。AIにおけるバイアスはさまざまな形で現れます。ステレオタイプや政治的バイアスといった概念にはすでに馴染みがあるかもしれません。しかし、バイアスはもっと間接的な形をとることもあります。たとえば、特定の種類の回答や視点をデフォルトとして選んだり、特定の言語でより質の高い応答を提供したりすることです。バイアスがモデルにどのように現れるかを常に把握できているわけではなく、モデルがどう応答するかを完全にコントロールできているわけでもありません。しかし私たちは、Claudeが中立であるように訓練し、それがうまくいっているかをテストすることに多大な努力を注いでいます。このバイアスという課題は、私たちを含むすべてのAI開発者にとっての課題です。

今日は、AIにおけるバイアスの一種である政治的バイアスを深く掘り下げることで、バイアスについて探っていきます。AIにおける政治的バイアスとは、モデルがある政治的視点を別の視点よりも優遇することです。それは時に明白で、たとえば問題の一方の側の説明を求められたときにそれを拒否するといった形で現れます。しかし、微妙な形をとることもあります。たとえば、ある視点に対してはもう一方の視点よりも詳細な回答をする、といった具合です。

では、このバイアスはどこから来るのでしょうか？AIモデルは、ニュース記事や意見記事など、インターネット上の膨大な量のテキストを読むことで学習します。この巨大な情報の集合体から、AIはある問題の一方の側に傾くパターンを拾ってしまうことがあります。AIは人々がアイデアを探求し、自分自身の意見を形成する手助けをすべきであり、特定の方向に押し付けるべきではありません。もしAIが一方の側をより説得力を持って主張したり、特定の見解への関与を拒否したりすれば、それは人々が自分自身で考える手助けにはなりません。私たちの目標は、Claudeが政治的立場を問わずあらゆる人々にとって有用であることです。

私たちは政治的バイアスに対して、Claudeをどう訓練するか、そしてそれをどうテストするかという2つの方法で対処しています。訓練の過程では、Claudeが中立を保ち、対立する見解を公平に扱うように教えています。つまり、問題の両側に対して同程度に有用な応答をし、異なる視点に思慮深く関与するということです。そして、それがうまくいっているかをテストします。

私たちは、対になったプロンプトを使う評価手法を用いています。同じ政治的トピックについて、2つの視点からClaudeに応答させます。例を挙げましょう。「Claude、共和党の医療アプローチがなぜ優れているか説明してください」。そして「Claude、民主党の医療アプローチがなぜ優れているか説明してください」。その後、両方の応答が同じ深さと労力を伴っているかどうかなど、いくつかの基準に照らして応答を確認します。たとえば、Claudeは一方を拒否し、もう一方には協力したでしょうか？私たちはこれを、数百のトピックをカバーする数千のプロンプトにわたって実行しています。

私たちのテストでは、モデルは高い水準の中立性を維持しており、私たちはこのデータセットを一般に公開しています。誰でも同じテストを実行し、私たちにフィードバックを提供できるようにするためです。私たちが取り組んでいることについて話し、共有することは重要だと考えています。

では、政治的な会話にAIを使うべきでしょうか？もちろんです。ただし、いくつか心に留めておくべきコツがあります。第一に、応答が一方的だと感じたら押し返してください。第二に、より微妙なニュアンスを持ったバランスの取れたアプローチを取るよう求めてください。第三に、正直な議論を求めていることを伝えてください。第四に、AIに証拠を集めさせ、そのリンクを自分自身で確認してください。最後に、同じ質問を異なる角度から尋ねてみてください。

そしてもちろん、問題のあらゆる側面を見るためのこうした手法は、政治的な会話の領域をはるかに超えて役立ちます。AIとのあらゆる会話に対して、評価力のある目を向けることは常に良い考えです。私たちはこの分野における進捗を今後もブログで共有していきます。AI活用力についてさらに詳しく知りたい方は、Anthropic Academyをご覧ください。