移り変わる技術のまんなかで腕試し

情報科学科、情報理工学系研究科でアルゴリズムの研究に没頭。その後、Preferred Networksでディープラーニング、Sakana AIで生成AIと新しい技術を学び直しながら新しい技術を習得し、最先端で活躍を続ける秋葉拓哉さん。2度の大幅な研究テーマ変更の背景を伺いました。

きたないコードに惨敗

秋葉さんは子供の頃からコンピュータに興味があり、中学1年生のときにプログラミングを始めました。クラブ活動を通じて競技プログラミングに出会い、中高とプログラムを書き続け、プログラミングなら誰にも負けないという絶大な自負を持つまでになりました。

ところが、高校生向けのプログラミングコンテストで、その自負を打ち砕かれる衝撃的な敗北を味わいます。相手は数学の天才。しかし、コンピュータやプログラミングにそこまで詳しいわけではなく、コードの書き方は洗練されたものではありませんでした。にもかかわらず、その性能は秋葉さんのきれいなコードを上回っていました。「これは、使われているアルゴリズムの違いでした。プログラムはコンピュータとコミュニケーションする方法にすぎなくて、アルゴリズムという、“どうやってコンピュータに仕事をさせるか”の処理手順で効率が大きく変わる。このことに気付かされ、ものすごく衝撃を受けました」

こだわりのプログラムも、アルゴリズムがよくないと負けてしまう。プログラミングの背後にあるサイエンティフィックな奥深さに気づき、アルゴリズムを学びたいと思うようになりました。

大学進学後、教養課程ではますます競技プログラミングに打ち込みます。「競技プログラミングのための生活をしていました。それ以外のことはやりたくなくて授業をサボったりもしていました」と振り返ります。後期課程に進学すると、これがガラリと変わります。「情報科学科のカリキュラムは最高でした。僕の学びたいことしかありませんでした」と前のめりで話す秋葉さん。「コンピュータや計算を軸に、あらゆるレイヤーのことを学べるカリキュラムになっていて、“計算とは何か”のような抽象度の高いところから、“CPUをどのように作るのか”といった具体的なところまでカバーされていました。このときの学びが貯金となり、その後の仕事でもずっと活かされています」と言います。

自分にしか書けないプログラムを創りたい

「誰でも作れるプログラムではなくて、他の人が書いたものよりも優れたプログラムを創りたい。だからこそ、その手段であるアルゴリズムに興味を持ちました」と話す秋葉さん。大学院で研究テーマに選んだのは、SNS上での繋がりのような、実世界に存在するグラフ構造において、大量のデータを処理するためのアルゴリズムでした。

アルゴリズム研究者はおしなべて、早く計算できる理由をきっちりと追いかけたいと思うものですが、実世界のグラフデータは数学的にきちんと表現するのが難しく、「最速である」とか「このような理由で早い」といったことが示しづらいところがあります。「早いことが大事で、その理由は後回しでもいい。動かしてみて早いプログラムが勝ち」という一般的なアルゴリズム研究とは少し違うこの分野は、なにを差し置いてもより優れたプログラムを創りたいという秋葉さんの志向と相性のよいものでした。

学位取得後も国立情報学研究所の助教としてアルゴリズムの研究を続けますが、1年ほどでディープラーニングへと大きくテーマをチェンジすることになります。「難しい問題を解くこと自体大好きだったのですが、重要なテーマが段々と解かれていき、新しいテーマを考えるタイミングになっていました。ディープラーニングが成果を上げてきていて、いまなら世の中に大きなインパクトを与えられるかもしれないと思いました。」

ソースコードにはすべてが書かれている

Preferred Networksへの転職と同時に専門を変えた秋葉さんは、ディープラーニングについてゼロから学び直すことになります。しかし、先行者に追いつくのに不安はなかったと言います。そして、本や論文を読むことに加え、ソースコードを読むことの大切さを説きます。「ソースコードは、すべてが書かれた設計図なんです。コンピュータは行間を読めないので、ソースコードにも行間はありません。ソースコードを読んだり実行したりすることで、より深い理解が得られます」

さらに、新規性の高い斬新な技術の場合、結局は誰もがほぼゼロからスタートすることになると指摘します。移り変わる技術の最先端で戦うときに大事なのは、より根本的なこと、理学部で学んだコンピュータの原理や計算とはなにかといった普遍のことなのです。

生成AI分野で技術力の勝負をしたい

ディープラーニングの研究を7年続け、そろそろまた次のステージへと進むタイミングを計っていた折に、生成AIの波がやってきました。世の中の変革の中心地にいたいと、生成AIのことを100%考えていられる環境を求め、Sakana AIに移ります。ChatGPTのようなLLM（Large Language Model)に関する経験はゼロでしたが、ディープラーニングをゼロから学んだ経験もあり、今なら追いつくのは簡単だろうと飛び込みました。

生成AIの改良にあたって、Scaling Lawと呼ばれる、資源を注ぎ込めば注ぎ込むほどAIが賢くなるという法則がOpenAIによって発表されています。「投入するデータを増やすことでよりよいAIという約束された未来が訪れます。規模が大きいのでもちろん大変ではありますが、アルゴリズム的には今までやってきたことの延長線上のことです。特別な創意があるわけではなく、みんながほとんど同じことをしています」と、秋葉さんはこの方向性では「自分にしか書けないプログラムを創る」という思いを果たせないと感じます。だからこそ、Sakana AIのScaling Lawと決別したモデル作りを目指すという方針に共感し、まったく別のアプローチでのモデル作りに打ち込んでいるのです。「投入するデータ量の競争ではなく、人間の賢さで勝負できる。自分自身の腕が問われます」と、楽しそうに話します。

興味を持てることを見つけて没頭しよう

「大学での勉強を将来役立てようと思っていたわけではないのですが、社会に出ても専門を変えても活きています。論文を正しく読み、批判的に読み、積み重ねて体系づけ、そのうえで考えるというのも、結果的にすごく役立っています。自分がやりたいことに熱中して基礎力を磨けたのはすごくよい経験でした。自分が興味を持てることを見つけて没頭できたらいいなと思います」

※2024年取材時
文／堀部直人
写真／貝塚純一