米OpenAIは7月17日（現地時間）、LLMの出力の信頼性と透明性を向上させるための新しいトレーニング方法を紹介する論文（PDF）を公開した。AIによる回答が本当に正しいのか、人間が理解しやすくするための取り組みだ。
⇧ まずは、回答に対しての正確な一次情報を添えるところから始めて欲しいですな...
回答に至る根拠とした一次情報を連携してもらえたら、回答を検証する気にもなるけど、参照してる情報が見当外れだと検証する意味が無いに等しくなりますからな...
合議制とは
「松尾研 LLM コミュニティ "Beginning LLM Level 6"」のセッションに参加して、久々にAI関連の情報に触れたのだけど、「LLM（Large Language Model）」で複数のモデルによる「合議制」みたいな研究って誰か行っているのか気になったので、調べたところ、海外で研究されていた方がおられたようです。
その前に、「合議制」って？
Wikipediaさんによりますと、
合議制（ごうぎせい）とは、
⇧ とのこと。
「長老制」は、「合議制」に含まれるのかが分かりませんが、
長老制（ちょうろうせい）はキリスト教の教会政治の分類の1つであり、教役者と一般信徒から選ばれた一定数の長老（PresbyteryまたはElder）による合議（長老会）によって個々の教会の運営を行う制度のこと。
長老制をとる教派は、地域ごとの重層的な教会組織を持ち、より上位の教会に代表者（長老）を選出し、さらに全体の運営方針を定める。合議によって運営を決める点は会衆派に似ているが、長老派は明確に教役者と長老に権威を認める。しばしば間接民主主義や代議制と説明される。
⇧「合議」によって意思決定するという点は、同様の思想な気がしますな。
LLM（Large Language Model）同士で合議制を行った研究が進んでいたそうな
で、人類の歴史的に、重大な物事について意思決定する際に、有識者が集って知恵を出し合うようなことをしてきましたと。
昨今のような未曾有の情報化社会とは無縁の閉鎖的な村社会とかだと、まだまだ健在なのかもしれませんが、伊達に長生きしてませんよ的な経験値のある年長者の方々が集まって、村の重要な物事について意思決定しては、よく聞け皆の衆～、みたいなことが繰り返されてきましたと。
長老様と古参の村民で協議が行われることはしばしばであったであろうと。
まぁ、現代からは想像もできないような風習とか土着信仰のような文化が当たり前とされていた時代もあったかもしれないので、良い面ばかりでは無いのも確かではありますが...
そんな「合議制」のようなシステム、人間じゃなくて「LLM（Large Language Model）」で実施したら、どうなるんだろうか？
って思っていたら、
⇧ 海外で同様のことを考えていた人が研究を行ったそうな。
で、結構、良い結果が出たらしい。
まぁ、イノベーション的な発想は多様な視点からの考察を交えた方が生まれやすいと思うのだけど、AIの世界においても複数の「LLM（Large Language Model）」で画期的な発想を量産して欲しいところですな。
議論が収集が付かなくなるケースが出て来ないのかも気になりますな。
人間だと、
⇧ 上記サイト様にありますように、兎角、「宗教戦争」に発展しがちですからな...
AIの世界でも、「◯◯しか勝たん」みたいな発言が出て、議論が平行線になることあるんだろうか...
まぁ、議論が紛糾したとて、人類のように感情に支配されることは無いからして武力介入が起こることは無いと思うけども、「ビブリオバトル」とかしたらどうなるのかとか、気になることは多いので、研究を進めて欲しいものですな。
毎度モヤモヤ感が半端ない…
今回はこのへんで。
