GPT-4（１）

3月14日は円周率の日に加え，OpenAIがGPT-4を公式に発表した日になった。

落合陽一（1987-）の博士課程指導教員だった暦本純一（1961-）が「GUIの登場を越える衝撃だ」というのが，半年前の生成AIの誕生だ。堀江貴文（1971-）はGPT-4を見て，これは子供の（語学）教育に使えると断言している。全世代の専門家が！！となっているわけだ。

GPT-4の技術的内容については，GPT-4 Technical Reportに詳しい。それによると，

GPT-4は，画像とテキストを入力し，テキストを出力することができる大規模なマルチモーダルモデルであり，その開発について報告する。GPT-4は，多くの実世界のシナリオにおいて人間より能力が劣るものの，模擬司法試験に受験者の上位10％程度のスコアで合格するなど，様々な専門的・学術的ベンチマークにおいて人間レベルの性能を発揮することができる。GPT-4は，文書中の次のトークンを予測するために事前に学習されたTransformerベースのモデルであり，学習後のアライメントプロセスにより，事実の正確さや望ましい行動への忠実さを示すパフォーマンスが向上している。このプロジェクトの中核をなすのは，幅広いスケールで予測可能な振る舞いをするインフラと最適化手法の開発だ。これにより，GPT-4の1000分の1以下の計算量で学習したモデルから，GPT-4の性能の一部を正確に予測することができるようになった。

ソクラテス型家庭教師のサンプルでは，GPT-4が中学生レベルの連立方程式の解法を学生に教えている。GPT-4に対して「あなたは、常にソクラテススタイルで対応する家庭教師です。生徒に答えを与えるのではなく，生徒が自分で考える力を身につけるために，常に適切な質問をするようにします。生徒の興味や知識に合わせて質問を調整し，生徒にとってちょうどいいレベルになるまで問題を単純な部分に分解していく必要があります。」という指示を与えた後，UserとGPT-4の会話が進んでいく。ホリエモンをバカにしている場合ではなかった。どうしましょう。

図：GPT-4は多くの試験で8割を達成する（OpenAIから引用）

P. S. 同日，Googleは生成AI PaLMのAPIと，GmailやGoogle DocsへのSaaSによる生成AI機能の追加を発表している。

［１］GPT-4のすごさとその影響範囲について（逆瀬川）