グローバルな視点で学ぶ機械学習：世界を舞台にしたキャリアへの道

海外留学とインターンシップ経験で機械学習への関心をさらに深め、キャリアを積極的に磨いている櫻井仁哉さん。彼が今日までに辿ってきた「道」についてお話を伺いました。

出発点

大都市圏の私立高校からの進学者が多い東大ですが、わたしは地方の公立中学校、公立高校出身です。周囲の生徒たちは多様な経済背景を持っており、将来もさまざまでした。高校や大学に進学した人もいれば、家庭の事情により進学できなかった人もいます。

わたしの高校の先生は、大学で何を学ぶかではなく、大学の評判がもっとも重要であると考え、より評価の高い大学への受験を勧めてきました。わたしは、志望大学に進学するために必死に勉強し、見事合格することができました。専門分野の選択が他の大学よりも遅い東京大学に進学したことは、結果として自分に合った大学選択だったと考えています。東京大学に入学してからは、コンピュータサイエンスや機械学習が現代社会にどのように役立っているかを知り、強い感銘を受けたことから、コンピュータサイエンスやプログラミング、そして機械学習を学びたいと考え情報科学科を選びました。学科の同期には、中学・高校時代から機械学習や競技プログラミングに取り組んでいるものも多く、それらの存在すら知らなかった自分との差に衝撃を受けました。わたしは逆に、これはチャンスだと考え、彼らから多くのことを吸収しようと、必死に情報科学科のカリキュラムをこなしました。

コンピュータグラフィックスのインターンシップ

2021年の夏、わたしはコンピュータグラフィックスと機械学習アルゴリズムを開発する株式会社ALBERTのインターンシップに応募しました。当時はコンピュータグラフィックスについてあまり詳しくなかったのですが、3次元空間認識へのニューラルネットワークの応用というインターンシップ内容にとても興味をそそられました。コンピュータグラフィクスのアルゴリズムや深層学習の実装力を中心とした選考課題を見事クリアし、面接を経て採用となりました。当時はまだ新型コロナウイルス（COVID-19）が流行していたため、インターンシップは基本的にオンラインでした。わたしのメンターの方は、プログラミングだけでなく、頻繁なミーティングで研究の方向性について指導してくださいました。

ニューラルネットワークによって生成された車の3次元メッシュ　©櫻井仁哉

株式会社ALBERTでのインターンシップで作成した電球と車の3Dプリント　©櫻井仁哉

インターンシップの間に学んだことは、研究に行き詰まったときにこそ、もっと多くの論文を読めば解決するかもしれないということです。それは、同じ問題にぶつかった先人の論文に出会うかもしれないからです。

交換留学と研究

毎年9月頃に東京大学から全学交換留学（USTEP^＊1）についてのメールが届きます。交換留学に興味があったものの、当時のわたしは課題で忙しく、最初はそのメールを放置していました。COVID-19パンデミックの影響で例年よりも応募者が少なかったためか、一部の留学先大学に関しては、その後さらに追加の募集を知らせるメールが届きました。学科の課題が落ち着いてきたこともあり、真剣に留学について考えることにしました。2学期分の交換留学のためには、東大の卒業を1年延期しなくてはならないので難しい判断でした。両親や昔お世話になった東大の先生の後押しもあり、この機会を逃せば、一生留学に行かないだろうと、思い切って応募することにしました。香港やシンガポール、オーストラリア、カナダなどの多様な留学先候補の中から、もっとも日本と異なった文化を持っていそうなスウェーデンを第一希望として応募しました。英語試験のスコアと履歴書と志望動機書を提出し合格しました。

スウェーデン王立工科大学の正門　©櫻井仁哉

JASSO（日本学生支援機構）から海外留学奨学金をもらい、スウェーデンの王立工科大学に10ヶ月間留学しました。大学では、スウェーデン語、位相データ解析、確率解析や最適化を学びながら、自分でコンタクトをとったSaikat教授のもとで研究を行いました。また、留学先では、コンピュータサイエンスのコースではなく数学のコースを履修し学びました。これは、実は留学前の情報科学科研究室訪問で、データサイエンスや機械学習の問題を分析・定式化するツールとしての数学の実用性に魅了されたからでした。このほかにも、大学の学生団体の一員として、イベントの企画や運営に参加することで、英語力を向上させることもできました。

スウェーデンでの生活

スウェーデンの冬はとても厳しく、太陽が毎日午後3時頃に沈んでしまうので、少し憂鬱な気持ちになることもありました。それでも、健康管理のためにサプリメント（スウェーデンでは、ビタミン剤などのサプリメントがコンビニやスーパーなどでも売られています）を飲んだり、現地の友人とバドミントンで汗を流し気分転換したり、まったく違う環境にも馴染むことができた気がします。

クリスマス前のストックホルム中央駅　©櫻井仁哉

スウェーデンは日本に似ていて、礼儀やマナーを守る文化ですが、大きな違いのひとつに「パーティーカルチャー」があります。スウェーデンの大学には、学生がダンスしたりお酒を飲んでパーティーができる場所、いわゆる「クラブ」がキャンパス内にもありました。慣れないパーティーコミュニケーションは非常に体力を消耗させるものでしたが、日本とはまったく異なる学生生活を経験出来てとても良かったです。もう一つの驚きは、母国語ではないにもかかわらず、ほとんどの人が英語を流暢に話せることでした。

スウェーデンでは、修士論文のために産業界と協力して、実践的な問題に取り組むことが多く見受けられます。わたしはSaikat教授から「cloud segmentation」にチャレンジしている修士課程の学生との共同研究を進めるよういわれました。「cloud segmentation」は、雲が写っている画像をもとにして雲量を予測する天気予報に使われる技術です。気象会社が持っている雲画像のデータは数が多くない上にラベルがついておらず、水滴などのノイズがあるものが多くあることが大きな問題点でした。ペアの学生と2人で、一日中データセット（ある目的で集められ一定の形式に整えられたデータの集合体）の教師データ（AIが機械学習に利用するデータ）を作成したり、転移学習（新しいデータセットを用いて、既存の学習済みモデルを再チューニングすること）やデータ形式の工夫をしたりすることで、小さなデータセットでも人間による予測を超えた予測を行うことができました。この貴重な研究経験は、機械学習の数学的、理論的な側面だけでなく、応用的、実践的な側面や社会との関わりについて関心を深めるきっかけになりました。

継続学習

交換留学後、わたしは日本に戻り、継続学習と呼ばれる機械学習モデルに関する卒業論文に取り組みました。通常の画像分類器のような機械学習モデルは、同じデータセットを繰り返し用いて訓練されます。しかし、セキュリティやメモリの制約のために、時間の経過とともに、過去のデータを削除しなければならない状況もあります。わたしの研究は、そのようなデータセットやタスクが遷移していく状況で、学習したことを忘れず、新しいデータに適応できる機械学習モデルの構築を目指しています。

ある教科書で訓練されたアルゴリズムを想定してみましょう。完璧な継続学習モデルでは、この教科書で訓練を行い、教科書を捨てた後でも、アルゴリズムは教科書からすでに学んだことを忘れることなく、新しいデータから学習できる能力を持っているはずです。わたしたちは、木を注意深く刈り込むように、ネットワークを枝刈りして新しいタスクを学習するキャパシティを作ることでこれを実現します。

スウェーデン、ストックホルムの図書館　©櫻井仁哉

８月初旬にはいり、わたしは卒業論文を発表しました。その前におこなった研究室内での発表の練習では、指導教員から多くの問題点を指摘され、とても厳しい指導を受けました。そのせいもあってか、本番前日は緊張しすぎてよく寝られなかったのですが、その厳しい指導と問題点の解決があったからこそ、本番はうまく進めることができたように思います。

未来への道をひらく

卒業に必要な単位をすべて取得し、期限までに卒論を仕上げることができたので、もともと１年になるはずだった卒業の延期を6ヶ月に短縮することができました。そこで2024年4月の大学院入学までの半年間のギャップイヤーを有意義に使うために、サウジアラビアでのインターンシップに応募することにしました。応募にあたっては、大学でのGPAや履歴書に加えて３通もの推薦状を要求されたのが驚きでした。幸いなことに、交換留学とインターンシップの繋がりを活かして日本の先生やスウェーデンの先生に推薦状を書いていただくことができました。2023年9月にサウジアラビアに行く予定なので、また東アジアやヨーロッパとはまったく異なる新しい文化や風土が体験できることをがとても楽しみに思います。修士課程で何を勉強し、どのようなキャリアを歩んでいくのかを決めるのに役立つ経験になるのではないかと期待しています。

博士課程に進むか、進まないか

友人や研究室の卒業生に相談したこともありましたが、博士課程に進むべきかはまだ決めかねています。博士課程に進むかどうかを決める際には、自分自身の学問への好奇心と収入、および将来のキャリアパスと相談して慎重になる必要があります。自分自身は博士課程の独特な環境に耐えうるのか、将来アカデミアに残る意思はあるのかなど、進学の決定の前に明らかにしなければならないことが多くありますが楽しみです。将来もグローバルな視点で決めていきたいと思っています。

USTEP^※1 https://www.u-tokyo.ac.jp/en/academics/ustep.html

※2023年取材時
英文/ラヴィンドラ・パラバリ・ネッティミ
翻訳/ベルタ・エメシェ
写真/貝塚純一
文章は簡潔にするために編集されています。