たまたま今、某協会向けに昨年ニューヨーク・タイムズ紙に掲載されたノーム・チョムスキー博士の論文を訳していたところ、気になる段落が見つかったのでその内容についてChatGPT4oと対話した。以下はそのやり取りである
（原文）Indeed, such programs are stuck in a prehuman or nonhuman phase of cognitive evolution. Their deepest flaw is the absence of the most critical capacity of any intelligence: to say not only what is the case, what was the case and what will be the case — that’s description and prediction — but also what is not the case and what could and could not be the case. Those are the ingredients of explanation, the mark of true intelligence.
（出所は”Noam Chomsky: The False Promise of ChatGPT March 8, 2023” By Noam Chomsky, Ian Roberts and Jeffrey Watumull
https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html?searchResultPosition=1
＊ニューヨークタイムズ紙は有料ウェブですが、この記事は「プレゼント」になっていますので、本日時点ではどなたでも無料で読むことができます。
（仮訳）実際、このようなプログラム（注：AIの紡ぎ出すプログラム）は、認知進化の人類以前の段階、または非人類的な段階にとどまっている。その最も深刻な欠陥は、あらゆる知性にとって最も重要な能力が欠如していることだ。つまり「何が事実であるか」「何が事実であったか」「何が事実であるだろうか」という記述や予測だけでなく、「何が事実でないか」「何が事実であり得るか」「何が事実であり得ないか」を述べる能力を持たないのである。だが実はこういったことが、説明の要素であり、真の知性の証なのだ。
鈴木：
この部分は、いわゆる「記号接地問題」ですね？
ChatGPT:
はい、そうです。この段落では、AIプログラムが「何が事実であるか」「何が事実でないか」「何が事実であり得るか」「何が事実であり得ないか」を理解し、説明する能力を欠いていることを述べています。これが記号接地問題の核心であり、記号や言語の真の意味を理解しないことに関連しています。
鈴木：
ちなみに、今あなたが指摘した問題は、人がChatGPTを使う時の問題になるか？仮にChatGPTがそこで語られている言葉が事実かどうかをわからないとしても、その出力を使うのは人間なわけだから、人間にとって事実でなければ採用されないので問題ないということではないのか？
ChatGPT：
この点については、ChatGPTを含む生成AIの利用に関して、いくつかの重要な問題があります。以下にその問題点と考え方をまとめます：
人間の判断に依存する限界：
ChatGPTの出力は、最終的に人間が判断し、使用するものであるため、AIが事実を理解できないこと自体が直接的に問題とならない場合もあります。しかし、人間がAIの出力を評価し、正確性や信頼性を判断する必要があり、それには時間と労力がかかります。また、すべてのユーザーが常に正しい判断を下せるわけではないため、誤情報が広まるリスクがあります。
誤情報の拡散：
ChatGPTは大規模なデータセットに基づいて出力を生成しますが、その中には誤った情報や偏った情報も含まれています。これにより、誤情報が出力され、それを信じてしまうユーザーが出る可能性があります。特に、迅速な情報提供が求められる場面や、専門的な知識が必要な場面では、誤情報が大きな問題となり得ます。
ユーザーの過信：
一部のユーザーは、AIの出力を過信し、批判的に検討することなくそのまま受け入れてしまうことがあります。AIの出力が常に正しいとは限らないため、ユーザーが批判的思考を持つことが重要ですが、そうでない場合には、誤った意思決定が行われるリスクがあります。
倫理的および社会的影響：
AIが生成する内容には、倫理的に問題がある場合や、社会的に影響を及ぼす内容が含まれることがあります。過去の例として、MicrosoftのTayチャットボットがオンライン上のトロールによって訓練され、差別的な発言をするようになったケースがあります。このような問題は、AIの出力をそのまま使用することで引き起こされる可能性があります。
結論：
ChatGPTのような生成AIの出力を利用する際には、ユーザーがその内容を批判的に評価し、正確性や適切性を確認する必要があります。AI自体が記号接地問題を抱えているため、出力が事実でない場合や誤解を招く場合があることを念頭に置き、慎重に取り扱うことが重要です。したがって、AIが事実を理解できないことは、ユーザーがその出力をどのように利用するかに大きく依存する問題となります。
鈴木：
では事柄を翻訳に絞ると、「記号接地問題」はどういう問題をはらむか？
ChatGPT
翻訳の文脈で「記号接地問題」が引き起こす具体的な問題について考察します。
記号接地問題とは
記号接地問題（symbol grounding problem）は、記号や言語がどのようにして具体的な意味や内容を持つようになるのかという問題です。特に、AIが単にデータのパターンを学習するだけでなく、その背後にある意味を理解しなければ、記号や言語が持つ本来の意味を捉えることができないという点に関わります。
翻訳における記号接地問題の具体的な問題点
意味の曖昧さの解決：
翻訳において、単語やフレーズが複数の意味を持つ場合、適切な意味を選び出すことが重要です。AIが記号の背後にある意味を理解していない場合、文脈にそぐわない訳語を選択する可能性が高くなります。例えば、「bank」という単語が文脈によって「銀行」か「川岸」を意味する場合、文脈を理解しなければ正しい翻訳はできません。
ニュアンスの伝達：
言語には微妙なニュアンスや文化的な背景が含まれており、それを適切に翻訳するには深い理解が必要です。AIが記号接地問題を抱えていると、これらのニュアンスを正確に伝えることが難しくなります。例えば、皮肉やユーモアのような複雑な言語現象は、単なるデータのパターン認識では捉えきれません。
文脈の理解：
正確な翻訳には、文脈の理解が欠かせません。文脈に基づいて単語やフレーズの意味を解釈しなければならない場面が多くあります。記号接地問題を抱えるAIは、文脈を理解する能力が制限されるため、誤訳を引き起こしやすくなります。例えば、技術文書と文学作品では同じ単語が異なる意味を持つことがあり、これを適切に区別する必要があります。
一貫性の保持：
長文の翻訳において、一貫性を保つことは重要です。特に、専門用語や固有名詞の統一は欠かせません。AIが記号の意味を理解していない場合、一貫した翻訳を提供することが難しくなります。これは、ドキュメント全体の品質に直接影響します。
結論
翻訳における記号接地問題は、適切な意味の選択、ニュアンスの伝達、文脈の理解、一貫性の保持といった翻訳の品質に直接影響を与える重要な課題です。AIがこれらの問題を克服し、より自然で正確な翻訳を提供するためには、単なるデータのパターン認識を超え、記号や言語の背後にある意味を理解する能力が求められます。
鈴木：
しかしあなたのポイントは、ChatGPTの出力がはらむ問題であり、それは、たとえば任意のAさんに翻訳を依頼した場合でも起こり得る（そのAさんが自分の経験したことのないことについて翻訳する場合がある）のではないか？つまり、AIが出力したものを人間がチェックする限り、それは誤訳の問題（つまりAI翻訳を人が利用する場合の注意点）にはなり得るが、記号接地問題とことさら取り上げて問題視すべきことではないのではないか？
ChatGPT
あなたの指摘は非常に重要です。確かに、AIによる翻訳の問題点は、人間の翻訳者が抱える問題と似ている点も多くあります。ここで重要なのは、AIの記号接地問題がどのように翻訳に特有の課題を生み出し、どのように人間の翻訳者がその問題を克服するかという点です。以下に、その違いと重要性について説明します。
人間の翻訳者とAI翻訳の比較
経験と背景知識：
人間の翻訳者：翻訳者は自らの経験や文化的背景を活かして翻訳を行います。経験のない分野でも、リサーチや文脈の理解を通じて適切な翻訳を提供する能力があります。
AI翻訳：AIは膨大なデータセットからパターンを学習しますが、その背後にある意味や文脈を理解する能力は限定的です。特に新しい分野や曖昧な文脈に対しては誤訳のリスクが高まります。
文脈の解釈：
人間の翻訳者：文脈を理解し、適切な翻訳を選ぶ能力があります。例えば、同じ単語でも文脈に応じて異なる訳語を選ぶことができます。
AI翻訳：文脈の理解が不十分なため、単純なパターン認識に基づいた翻訳が行われることがあります。このため、文脈にそぐわない訳語が選ばれる可能性があります。
ニュアンスと微妙な意味の伝達：
人間の翻訳者：ニュアンスや文化的な背景を考慮した翻訳が可能です。特に文学作品や詩の翻訳では、この能力が重要です。
AI翻訳：ニュアンスを捉えるのが難しく、特に複雑な感情や文化的背景を含むテキストでは誤訳が発生しやすいです。
記号接地問題の特異性
記号接地問題は、AIが記号や言語の背後にある意味を理解する能力が欠如している点にあります。これは、以下の理由で特に問題視されます：
自律性の欠如：
AIは独自に意味を理解し、解釈する能力がないため、出力された翻訳が文脈にそぐわない場合に修正が困難です。人間の翻訳者は、意味を理解しているため、適切な修正が可能です。
拡張性の限界：
AIは既存のデータに基づいて学習しますが、新しい情報や文脈に対する対応能力が限られています。人間の翻訳者は新しい情報を学習し、適応する能力があります。
結論
AI翻訳を利用する際に記号接地問題をことさらに問題視する理由は、AIが本質的に意味を理解する能力を欠いているためです。これは人間の翻訳者が持つ意味理解や文脈の解釈能力とは根本的に異なります。したがって、AI翻訳を利用する際には、特に注意が必要であり、その限界を認識して適切に補完することが重要です。
ただし、あなたの指摘通り、人間がAIの出力を適切にチェックし、修正する限り、この問題は軽減される可能性があります。それでも、AIが翻訳の補助ツールとして使用される場合、その限界と潜在的な問題を認識し、適切に対応することが重要です。
鈴木：
つまりそれは、任意の人に翻訳を依頼する場合（この場合は訳す人のバックグラウンド次第でどういう翻訳が出てくるかわからない）よりも、AIに特有の癖（AIはそこで述べられ得ている事実を経験していない）と認識しておけば、人間よりもAIへの対処の方が容易よいということですね。
ChatGPT
はい、その通りです。AI翻訳の特有の癖や限界を認識しておくことで、対処が容易になるという点は重要です。具体的には、以下の点が挙げられます：
AI翻訳の特有の癖とその対処法
意味の理解の欠如：
特有の癖：AIは記号の背後にある意味を理解しないため、文脈にそぐわない翻訳が出力されることがあります。
対処法：AIの出力を人間が確認し、文脈に合わせて適切に修正することが必要です。特に専門用語やニュアンスのある文章では注意が必要です。
データに基づくパターン認識：
特有の癖：AIは大量のデータからパターンを学習するため、一般的な文脈では高精度の翻訳が期待できますが、特異な文脈や新しい用語には弱いです。
対処法：AIの出力を使う際には、特定の分野や特殊な文脈に関する専門的な知識を持つ人間がチェックすることで、翻訳の質を向上させることができます。
一貫性の欠如：
特有の癖：長文の翻訳において、AIは一貫性を保つのが難しいことがあります。特に固有名詞や専門用語の統一が問題となります。
対処法：AIが翻訳したテキストを全体的に見直し、一貫性を保つように調整することが必要です。
AI翻訳と人間の翻訳の比較
人間の翻訳者：翻訳者のバックグラウンドや経験により、翻訳の質が大きく左右されます。特定の分野に精通している翻訳者であれば、非常に高品質な翻訳が期待できますが、逆に経験が不足している場合は誤訳のリスクがあります。
AI翻訳：AIは膨大なデータに基づいて学習するため、一般的な文脈では高い精度を持つことがあります。しかし、記号接地問題により、意味や文脈の理解が不足することがあります。
結論
AI翻訳の特有の癖を認識し、適切に対処することで、AIを効果的に活用することが可能です。人間がAIの出力をチェックし、必要な修正を行うことで、AI翻訳の限界を補い、高品質な翻訳を実現することができます。この点で、AI翻訳は人間の翻訳者と協力する形で強力なツールとなり得ます。
以上です。仕事のついでにふと思いついて尋ねたときのやり取りを参考までに取り出しました。CHatGPTの回答は予想の範囲内だった。それは僕のプロンプトの稚拙さかも。
ここで述べられている内容の妥当性や是非の判断については、自己責任でお願いします。
