「群」という名の数の宇宙で

ずっと算数が大好きだった

小学校に入る頃から算数が好きで、学校から帰ると算数のパズルを解いたり、子ども向けの算数の本を読んだりしていたという。

「両親の影響が大きかったと思います。父は数学の研究者で、母は高校で数学を教えていたことがありました。とはいえ、算数をやりなさいと言われたことはありませんでした。数学の本や計算のメモがそこらじゅうにあって自然に興味をもったのだと思います。私が算数に興味があると知ると、両親は本を買ってくれたり、算数に親しむ環境を整えてくれました。父がよくパズルのような問題をつくってくれたのを覚えています。たとえば、マッチ棒を並べて作った三角形の中にもう何本かマッチ棒を並べて面積を半分にしなさいとか。そういう子どもにもわかるような問題でしたが、でも、答が一つだけではなくて、いろいろ考えて試行錯誤できるような、そんな問題でした。すぐに答が出ないことがあっても、長いこと考えていると小さな発見がある、それが楽しかった記憶があります」

小学校でも中学校でも高校でも、大島少年は算数・数学にとにかく夢中になった。

「将来は数学の研究をするんだ、などとは、そのころはまだぜんぜん考えてもいませんでした。ただただ数学の問題を考えること、数学の世界に触れることが楽しかったのです。算数や数学の本を読んでも最初は何を言っているのかわからない。でも、時間をかけて考えていくと、少しずつわかったような気がしてくる。その過程が面白い。そういった感覚は今も続いています」

そんな大島少年が大学生になり、やがて数学の研究者になろうと心を決め、選んだのが「リー群の表現論」という分野だった。

「表現論という分野は、数学の異なる分野を結びつけたり、橋を架けたりするようなところがあり、数学のあらゆる分野と関わってくるのです。研究手法においても、思いもよらない方法で問題が解決することがあります」

そう語る大島であるが、それにしても、「群」とは何？それに「表現論」とはまるで文系のようではないか。

集合はセット、群はグループ

「抽象的には、群は集合とその上の演算によって定義されます」と大島は説明する。

群は英語では「Group」だ。なんだ、グループか。そう思えば恐ろしくはない。集合は英語で「Set」である。チョコレートのセットはチョコレートの集合、ビターチョコレートの集合は、その中でも苦味の利いた大人向けチョコのセット（部分集合）だ。では、群、つまりグループはこのセットとどう違うのか。

「集合の中に演算という操作が定まっていて、しかもその集合と演算があるルールを満たしていると、それは群と呼ばれます」

つまりチョコレート同士で何か操作する必要があるのが群ということなのだが、ここからはチョコレートのたとえでは説明は困難。

演算というのは、たとえば数を足したり、掛けたりといったことだが、ここで群のルールを満たすためには、まず演算を行った答（演算結果）も同じ集合の中に含まれなければならない。たとえば、「整数の集合における足し算の群」というのは、すべての整数の集合と、整数どうしを足すという演算によって定まる群ということだ。整数と整数を足したら整数になるのは当たり前なのだから、どうしていちいち群などと呼ぶ必要があるのかと思うだろう。では、自然数の集合において足し算を考えると群になるのだろうか？答えは「否」である。それは、「自然数の集合における足し算」は群のルールに反するからだ。

群であるためのルールは三つある。一つは「（a+b)+c=a+(b+c)」といった結合法則が成り立つこと。二つ目は、演算しても答が変わらない単位元という数が存在すること。たとえば足し算の場合は「0」（0＋3＝3だ）のような数字だ。三つ目が、各数に対して、演算結果が単位元になる数（逆元という）が存在すること。「0」が単位元だった場合、たとえば2のときは「－2」を足せば「0」なる。つまり、足し算の場合、どんな整数にも足すと0になるマイナスの数があるから、逆元が存在することになり、ルールに合格する。だから、「整数の集合における足し算」は群であるということになる。一方で、自然数にはマイナスの数はない。とすると逆元は存在しないことになる。ゆえに、「自然数の集合における足し算」は群ではないということになる。なんでも群になるわけではないのだ。

たったこれだけが群の定義だ。シンプルなのである。だが、この群という名の独特の集合が、実は数学的に非常に豊かな世界を隠し持っているのだ。シンプルなルールをみたしているだけの集合である群を、大学生が学ぶ線型代数などの数学のコトバで「表現」し直し、そのパワーを引き出すことが、大島が専門とする「群の表現論」なのである。

対称性を記述する〝言語〟が群

「群の表現とは、定義を言えば、その群の1個1個の元に行列を対応させて、群の積が行列の積に対応するように具体的に表現することです。抽象的な群をより具体的な行列のコトバにして理解しようというのが、群の表現の一つの側面です」

行列は大学数学で学ぶが、文字通り、数字や記号を行と列にして並べたものだ。たとえば、1行目が「1　2」で2行目が「3　4」だったら、これは2行×2列の一つの行列である。この行列どうしは足したり掛けたり（少し複雑なルールがあるが）ができる。群の表現とは、ある特定の群のすべての要素を具体的な行列で表すことであり、そのことで群の性質を引き出すことができるのだ。そして、群の表現は「対称性」のあるところに自然に現れるのだと大島は言う。

「定義だけからはわかりづらいですが、群や表現は対称性を記述する数学的概念です。言い換えれば、数学のいろいろな図形や関数、式に現れてくる対称性を捉えようと思ったり、あるいは対称性を使って何かを調べたいと考えたときに、必要となってくるのが群、そして群の表現なのです」

対称性とは英語では「symmetry」、つまりシンメトリーだ。こう書くとイメージがわくだろう。図形の対称性を考えてみれば、三角形は頂点を真ん中にして左右対称だし（線対称という）、円も同様に左右対称だ。しかも円は回転させても形は変わらない。これを回転対称という。図形だけでなく、素粒子の世界では時間の向きを逆にしてもかまわない時間対称性も存在する。実にさまざまな対称性があるのだ。

「たとえば円周は群の一つです。円はどう回転させても形は変わりません。この回転という一つ一つの変換が群をつくると考えます。たとえば、円を30度回転させるという変換も群の一つの要素で、60度回転させるのも一つの要素。0度からそうやって連続的に回転させる変換がすべて要素で、360度回転させるとこれは0度と同じことになって元に戻る。つまり円周が完成する。言い換えれば、この変換の全体が円周であり、群の条件を満たしているわけです。この円の変換は、2行2列の行列で表すことができ、それが円という群の表現となるわけです」

大島は群の中でも「リー群」という分野を研究のターゲットとしている。ソフス・リーというノルウエーの数学者が19世紀に発展させたもので、大島曰く「連続的な対称性を扱っている」のがリー群の特徴だ。

「連続的な対称性というのは、たとえば、回転がそうですね。先の円周も回転ですからリー群です。球面では3次元的な回転がありますが、これは回転群と呼ばれるもので、3次元の回転をすべて集めたものもリー群の一つです。そんなふうに、連続的に動かしても常に同じ形になるもの、つまり連続的に動かせる変換があるとき、リー群が登場します。ですから、リー群の研究とは、そういった連続的な対称性を解析することです」

なお、大島は『実簡約リー群のユニタリ表現の研究』という論文で、文部科学大臣表彰若手科学者賞を授賞しており、世界においてリー群の表現論の若手のホープと目されているのだ。

数学者は仕事中も休んで見える!?

群の表現論は物理学においてもとても重要な役割を果たしている。リー群の研究は、1950年代ごろに量子力学の要請から大きく発展したと言われるほどだ。

「対称性はさまざまな自然科学においても現れるものなので、それを数学的に定量的に捉えようと思うと、どうしても群の表現が必要になるわけです。それにしても、数学的な興味からこれは美しい、これは重要だと思い、数学者が理論を作ったり、定理を作ったりしていったものが、物理学などの別の場所で別の文脈で使われるというのはとても面白いですね。数学は、ある意味で、人間が考えた世界ではあるかもしれませんが、現実世界で予想もしなかったものと深いところでつながっている。それはとても不思議なことだと思います」

現実世界と群論の面白いつながりの例として大島があげたのが、フーリエ変換とよばれるものだ。これはヘッドホンのノイズキャンセリング技術などで大活躍している関数である。

「たとえば、ある音をいろんな音波に分解したり、あるいはプリズムのように光をいろんな波長の光に分解したりするときに使うのがフーリエ変換（フーリエ解析）です。つまり、いろんな波長の波が重なりあったものを複数の基本的な波へと分解するのがフーリエ変換です。基本的な波というのは対称性の高い波と見ることができ、これはリー群の表現を通じてとらえることができます」

群論のみならず、現実世界においてきわめて大きな意味を持つ数学ではあるが、数学者は天体望遠鏡をのぞいたり、素粒子を衝突させたり、シークエンサーでＤＮＡを解析したりはしない。必要なのは紙とペンくらいだろうか。大島がこう言う。

「こみいった計算をするのに、机に向かって紙に書き出すこともありますが、もっと漠然とものを考えているときは、はたから見ると、休んでいるように見えるかもしれません。しかし、自由に考えをめぐらせるのは研究において大事な時間です」

そんなふうに、数学者の頭脳の中だけで完結する数学とはいったいどういう学問なのだろうか。

「自然科学の言葉としての数学もありますし、芸術的な側面というか、理論や定理を見て数学者が美しいと感じる数学もあります。また、数学の中にも自然科学と同じように何かしら〝現象〟と呼びたいものもあり、なぜそういう〝現象〟が起こるのかを知りたいと思って取り組むということがあります。その不思議な〝現象〟を発見し、観察し、その理由を理解することが数学の研究です。自然科学のように、実験をして面白い〝現象〟を見つけてみたいという気持ちがあります」

とはいえ、数学において〝現象〟という言葉には、なにかしら奇妙な響きを感じもする。

「そうですね。やっぱり、人間の頭の中だけでなく実際に存在する自然現象のようにどこかで思っているのでしょうね。数学の世界が人間の頭の外に〝実在〟するかどうかというのは、哲学的な話になるので難しいことですが、やっぱり、なにか、〝現象〟と言いたくなるのですよね」

数学はわからないことだらけ

日々の研究はとても楽しいと大島は語る。

「ある人が言っていたのですが、明かりがついていない暗い部屋に入った時には、どこに何があるのか手探りするしかなかったのに、ようやくスイッチを見つけて明かりをつけた途端、すべてが一気にわかる。数学はそれに似たところがあると。確かに、数学はわからない時はぜんぜんわからないのですが、一段登ったら突然、いままで何がわからなかったのかがわからなくなってしまうほど、明瞭に理解できるということがあります。それなのに、すぐにまたわからないところが出てくる（笑）。でも、そうやって、わからない、わからないと悩んでいる時ですらも、実は数学をある意味で楽しんでいるとも言えますね」

数学という学問は、すでにほとんどが完成し、整理され、もはや未踏の地というものは存在しないかのように外からは見える。

「それはまったくありません。多くの数学者も同じだと思うのですが、わからないことは本当にたくさん、山のように、それこそ無限にあるのです。それを少しずつ、いろいろな人たちが努力して、わかる部分を増やしていっているのです。前へ進めば進むほど、わからないことがたくさん見えてくる。個人的にも、いまの研究でわからないところがまだまだあります。そこをわかりたい。それが、目標ですね」

数学は今でも「わからないことだらけ」。だからこそ、若者にとって挑戦しがいのある分野だと大島は言う。

「数学という学問において、何か新しく面白いことを見つけるというのは、それはそれで決して簡単なことではないのです。それは問題を解くということだけではなく、問題を見つけるということでもあって、新しい数学の現象を見つけるということでもあります。でも、それこそがものすごくやりがいのあることなのです」

プライベートでは二児の父である。

「子どもがまだ小さいので、毎日、あわただしく過ごしています。算数ですか？いまのところあまり興味は無さそうですね（笑）」

※2024年取材時
取材･文／太田穣
写真／貝塚純一