昨日のセミナーには非常に感動しました。終了直後にお二人の本を購入し、サインまでいただきました。超一流の専門家お二人による対談は、専門用語が飛び交う空中戦のようで、専門家ではない僕にとっては常識外の言葉が多く使われていました。それでも「聞くは一時の恥、聞かざるは一生の恥」の精神で他の質問が終わりかかった頃に一つだけ質問しました。
「今のAI研究者の間では『コンフュージョン』の評価軸が定まっていない」という話が出たんです。それで質問の時に、
「先ほどおっしゃっていた『コンフュージョン』って、『ハルシネーション』のことですか？」と質問したわけです。恥をさらしますが、「ハルシネーション」と「コンフュージョン（confusion）」の違いを分かっていなかったのです。
それに対するお答えは、「未知のものをあたかも存在しているように説明するのがハルシネーション。既知のものから訳の分からない理屈をこね繰り出してくるのがコンフュージョンです」。つまり英語の文字通りの意味「混同」だったわけです。家に帰って意味を確認して納得した次第。尋ねてよかった。その上で、僕がこれまでに読んだ一般向けの生成AIの書籍では、ハルシネーションにコンフュージョンの意味も込めて（つまり混同して）説明しているのではないか、と思った次第です。
およそ100分間、4分の1ぐらいしか分からなかったので恥ずかしいのですが、上の質問項目も含め、自分なりに理解した内容は次の通りです（あくまでも僕の理解ですので、間違っていたらごめんなさい）。
・ChatGPTをはじめとする生成AIの利用者は、「生成AIの事実認識は完全ではなく、ハルシネーションやコンフュージョンを起こす可能性が常にある」と考えるべき。
・大規模言語モデルのコンフュージョン（複数の概念や情報を混同したり、正しい情報と誤った情報を混ぜて出力したり、文脈を正確に理解できず的外れな応答をすること）について、生成AIがプロンプトにどの程度従っているかを測るベンチマークは現時点では存在しない。
・したがって、生成AIを外に向けて発したり利用したりする場合には、そこに書いてある情報を使用する前に必ず原典を確認し、その情報の論理的妥当性を「自分で」判断することが必要。
・スケーリング則（自然言語処理モデルのパラメータ数、データセットのサイズ、トレーニングに使用される計算量が増えるにつれてモデルの性能が向上するという法則）による性能向上は限界に近づいている。特に、AIが学習できるWeb上の良質なデータ（現在約3100兆）は2026年頃には使い切られ、生成AIの能力も限界に近づく可能性がある。
・AGI（汎用人工知能）は2030年頃に実現すると考える専門家は多いようだ。ただし、AI研究の進歩は非常に速く、昨日の常識が今日には覆るリスクがある点には注意が必要。
・ハルシネーションやコンフュージョンがあったとしても、大規模言語モデルは私たちの思考や仕事を加速・深化させる可能性が高い。知識を増やし、思索を深めるために大いに活用すべき。
・生成AIの出力した内容に対する原点を確認するのであれば、Perplexityがかなり使える。
・日本と米国を開発費用で比較すると、竹槍と戦車ぐらいの差がある。
・AIの最先端を理解したいなら、レイ・カーツワイル（Ray Kurzweil）氏を追いかけるのがよい。日本の技術者としては「からあげ@karaage0703」さんが特に優れていると思う。
正直言って、全体のおよそ4分の1も把握できていないと思います。ただ、それでもこれまで独学で抱いていた「生成AIは、人間が介在しないと機能せず、それに任せきるリスクは高いけれども、そのリスクさえ踏まえれば非常に強力なツールである」という僕自身の仮説について、専門家のお墨付きをいただいたようで、とても嬉しかったです。
会場にいる参加者全員が専門家のように見えるセミナーというのは、かなりの迫力がありました。ただ、司会（モデレーター）の方がいなかったのが少し残念でした。お二人とも一般読者向けの書籍を出版されており、今回のセミナーはその販売促進の一環だったようですが、AI研究者とマイクロソフトのエンジニアのお二人だけによる対談だったため、話の半分程度しか理解できませんでした（というか知らない話題が多かった）。とはいえ、これは対談者のお二人のせいではなく、運営側に改善の余地があると思います。
最後に与太話一つ。
セミナー終了後に今井さんに名刺を出してサインをお願いした際、「・・・あれ、鈴木さん『ティール組織』を訳されたんですか？え～、こんなところでお会いできるとは思わなかった！」と感激された。初めての経験です。全く予想してなかっただけに心から嬉しかったです。（以上）
