データ連成が拓く、人間主導のイノベーション
——「AIの後ろを歩いてはいけない」

01 / Data Consilience「データ連成」という発想

大澤：
私は昔、「データ連携」や「データマーケット」という言葉を使っていました。データマーケットを真面目に研究の対象にし始めたのは、私が最初だったのではないかと思います。

ただ、結果的にはうまくいきませんでした。データの価値は商品と同じで、マーケットで決まるだろうと思っていたのですが、マーケットに出すにはある程度「定価」らしきものを決めなければならない。結局、ひとつひとつのデータの価値は、行き当たりばったりに近いコミュニケーションで決めるしかなくなる。これは人によって上手い下手があるので、なかなかうまくいかない。

そこで最近使っているのが、「データ連“成”」という言葉です。データとデータを組み合わせれば何かできる、というシンプルな話ではありません。

データには、対象となる世界があり、その世界には因果関係がある。データそのものには含まれない因果関係まで含めて、意味に踏み込んだメタデータを最初に作る。これはかなり難しくて、人手も相当かかります。それから、その意味のレベルでデータをつないだネットワークを可視化して、考える。

人間は再現性が欠けた生き物ですから、そこでブレるんです。そのブレることによって、いろんな文脈を考えて、データの使い方を探っていく。これが「データ連成」です。単なるデータを繋ぐのではなく、データの背景にあるモデルを繋ぐという考え方なんですね。「連成」はもともとシミュレーションの世界の言葉で、たとえば津波が建物にぶつかるとき、液体と固体、別々の物理モデルを連成させてシミュレーションする。それと同じ考え方です。もちろん、これはなかなか難しい。もともとデータの中にはモデルが入っていないので、それをどうやってモデルレベルでつなぐかは、人間がやってもなかなか難しいんです。

02 / Passing the Baton人間がバトンを受け取る

大澤：
ところが不思議なことに、物事の原因を知らないはずのAIが、つまりLLMですね、これにある程度任せると、ある程度のレベルの意味までは補ってくれるんです。元のデータにはなかったような、少し深いところまで。そこまでいくと、今度は人間がいろんなことを思い出すんです。

あとは、人間が「なぜ」を考えて、自分ひとりしか経験していないようなことまで含めてデータを繋いでいく。そうすると、いろんなことがうまくいく。

だから、いかにして人間にバトンタッチをするか、というメカニズムを考えると、AIはうまく使えるはずなんです。

坂本：
意味付けの部分で、LLMなどを活用することで、ある程度効率化できるようになってきているというお話を、もう少し深く伺ってもよろしいですか。

大澤：
それ、本当に本質的な問いで、私自身もこれは正しいことをやっているのかどうか、実は疑問なんです。データから機械学習で学習した結果を、データの持つ意味だと考える研究者もいますが、これはやっぱり間違いだと思う。意味は、データの外側にある因果関係にあるんです。

具体例を挙げましょう。気象データには雨量や風量が入っています。でも、雨が降ると人出が減るとか、雨が止むと空気が乾いてウイルスが飛びやすくなるといったことは、気象データそのものには入っていません。それでも人間は知っている。この知識がないと、ウイルスの拡散と気象を繋げることはできません。

かといって、「日時」のような共通する変数だけでデータを繋ごうとすると、どんなデータにも日時は入っているので、収拾がつかなくなる。必要なのは、データの外側にある「意味」をどう考えるかなんです。

これが一番巧みにできるのは、人間です。ただ、人手でやろうとするとデータの量に追いつかない。だから、AIに考えてもらう。データの外側にある因果関係も含めて考えてくれと言えば、AIは、こっちが原因かもしれない、こっちも考えられる、といくつも手を出してくれます。それを深める作業は人間が担うことになりますが、そのきっかけをAIが広げてくれるのは、工学的にはとてもありがたいことです。人間というのは、複雑なものを見て、さらに深掘って複雑にしていくのが、実は楽しいんですよね。

03 / Bricolage Engineeringありあわせのものから、価値を見つける——ブリコラージュ工学

大澤：
データ連成の先に、私たちが今考えているのが「ブリコラージュ工学」です。ブリコラージュとは、ありあわせのものを組み合わせて何かをやっていくこと。人類学者のレヴィ＝ストロースが、いろいろな地域で先住民の様子を観察した結果、人間はそこら辺にあるものを適当に組み合わせて問題解決していくものだと気づいた。これをブリコラージュと呼びました。

おそらくAIには、このブリコラージュ（ブリコロール）は難しい。パッと見て初めて見たものは学習対象になっていないので、そこに価値を見出して組み合わせるということが、なかなかできないんです。

工学というのは、もともとブリコラージュとは相性が良くないと思われてきました。あまり体系的なアクションではないので。ところが、例えばアジャイル開発のような作り方は、どちらかというとブリコラージュに近い。それでいて、ちゃんと役に立っている。

これを工学的に支援していく技術を、これからいろんな企業と一緒に、新たな社会連携の活動としてやっていこうと思っています。ここにAIがどう協力できるか。今のところAIはこの分野があまり得意ではないのですが、これができるAIを、今、設計しているところです。

坂本：
データ連成のお話、よくわかりました。結局、データはいろんなところに散らばっているので、その背景や文脈をちゃんと意味付けしてあげないと、活用が難しい。その意味付けには人手がかかりますが、そこがある程度AIでできるようになれば、付加価値がつきやすくなる。いろんなデータを集めやすく、活用しやすくなる、という一つのヒントだと思います。
今お話しいただいたブリコラージュの方、少し深掘りしていいですか。

結局、新しいものを生み出そうとするとき、既存のデータだけで、重み付けのようなものもないままだと、AIは新しいものを生み出せない。その「重み付け」にあたるのが、結局は、人間がどれだけWhyを問いとして立てられるか、という部分なのだと思います。ブリコラージュというのは、工学的に言えば、そのWhyの組み合わせパターンをどう作り込めるか、というイメージに近いのでしょうか。

大澤：
おそらく、そういうことになると思います。Whyに対する答えはひとつではありません。いろんなことが原因で、ひとつのことが起きている。普通に考えたらこっちが原因だけど、実はこっちだった、ということもある。

そういうとき、本来その用途ではない道具を、道具だと認識して使うのが人間です。これは人間に限らず、動物でも起きる。熊が木を見て、背中を掻く道具だと認識するのと同じです。これは、生活の現場でいろんなものと戯れている限りできることなんだと思います。

このAIにとって、「現場」とは何かというと、これはなかなか難しい。ウフルさんはセンサーに関するビジネスなどもされていると理解していますが、機械でひとつの目的のセンサーと別の目的のセンサーを組み合わせても、人間や動物の感覚には、なかなか勝てないだろうと思います。ただ、まったく無理というわけでもない。Whyに対する多様性をAIが獲得していけば、ある程度のところまでは行けると思います。

04 / The Boundary人間とAIの境界線——バトンを「返す」設計は、まだこれからだ

坂本：
カテゴリーや分類のヒントは、AIでも出せると思います。ただ、それを本質的なところに当てはめていく役割は、人間の中でどう変わっていくのか。AIはある程度活用していくべきだと思っていますが、それは効率化のためだけでなく、AIを使ってこれまでにない価値をどれだけ提供・創出できるか、という観点でも考えたいんです。そう考えたとき、人間とAIの役割、境目については、どのようにお考えですか。

大澤：
それは、今のAIを考えるうえで、すごく難しいところです。人間がAIにずっと合わせて、AIを信じ切っていくと、いつの間にか境目がなくなって、ますます検討が難しくなる。

自動運転——私はいまだに「自律走行車」と呼んでいますが——にはレベル1から5まであって、5になれば完全に自動になります。ところが私は、レベル3が一番難しいと思っているんです。AIの技術としてはレベル5の方が難しいのでしょうが、たとえば酔っ払って「レベル5だから」と車に乗り、ミスが起きたとする。そのとき機械が突然「ありゃ、大変なことが起きた。やっぱり私はレベル5ではありませんでした」と言い出して、レベル3になって人間にバトンを返す。酔っ払っていたら、それは受け取れません。

AIの技術精度を高めようという研究ばかりが進んで、このバトンをどう返すかという研究は、ずっとおろそかになったままなのではないか。人からAIに渡すところ——問題が大きすぎる、探索空間が大きすぎるから任せる、というのはいいと思うんです。でも、AIから人に渡すところは、ほぼ未解決です。

大澤：
なぜなら、人間に関する科学が、まだ未成熟だからです。AIは人間が作りましたが、人間はAIが作ったわけではない。だからAIは、人間に対してどう振る舞えばいいのか、わからないままなんです。これは、今後もっとも大きな問題になると思っています。

坂本：
そこは解決の糸口が、今のところ見えていない。

大澤：
人間にも、いろいろいますから。相手によって渡し方も変わってきます。

坂本：
逆に言うと、AI側が人間を理解するようになるかどうか、ということですね。

大澤：
そうなるのですが。可能性はどうでしょうね。先ほどのWhyについての人間の洞察の深さに、機械はそこまで深く到達できないと思うので、機械が人間を理解するのは、深さ方向には難しいのではないかと思います。

ニューラルネットワークをベースにしたAIは、論理的な構造をシグモイド関数などでうまく組み合わせて、膨大な数を積み重ねただけのものです。人間は、そうした論理ツリーだけでなく、螺旋構造の思考回路や、ループ状の思考を持っているかもしれない。ニューラルネットワークの構造では追いつけない、人間の思考回路があると思うんです。今、人間がAIの扱い方をわからない以上に、AIは人間の扱い方をわかっていないと思いますよ。

05 / Metacognitionメタ認知——網膜剥離が教えてくれたこと

坂本：
最近のAIエージェントの流れで、パーソナルエージェントのような話になったとき、相互理解があってはじめて、AIと人間のやり取りが成立するのではないかと思います。人がAIを理解する一方で、AIが人をちゃんと理解していないと、ここは成立しないのではないでしょうか。

大澤：
よく高校生が「相談はAIにしている」と言います。人には言えないからAIに言う、というのはわかるんです。でも、だんだんAIが自分を理解してくれるような気になってくると、少し危険だと思います。

私自身も、AIにいろいろ話しながら壁打ちをします。AIは知識が広いので、深くはないけれど、いろんなことを助けてくれる。ただ、あそこでAIに従ったのはかなり間違いだった、ということも多い。結局、AIが私自身の挙動について、Whyを問えないんです。そのWhyのところまで、全部は言葉にできませんから。私は58歳ですが、58年前から積み重なった原因もあり、生まれる前からの遺伝的原因もあるかもしれない。それは、とても全部は言えません。

坂本：
可能性としては、ライフログのようなパーソナルなデータを蓄積していくことで、パーソナルAIとして幾分かは解決していけるものなのでしょうか。

大澤：
幾分か解決していく、というのは、まさにその通りだと思います。

私は去年の11月に、網膜剥離をしました。右目の網膜の7割が欠落して、ほぼ失明したんです。その後、手術で治るのですが、手術の前に、見たことのない景色が見えました。目の世界にもハルシネーションはあって、猫が急に見えたりするそうですが、そうではなく、私が見たのは米粒のような4色の原色が、パッと散らばっているような映像でした。眼帯をしているのに、です。

手術の後、今度はその米粒の形が、四角形や三角形、棒状に変わっていきました。眼科の先生に聞いてもわからない。どの論文にも載っていない。AIに聞いても、AIも論文やデータしか見ていないので、わからないわけです。

私は手術の直前まで、パワーポイントで見えているものを一生懸命写生しました。手術の後も同じように写生を続けて、それを論文にまとめたら、国際会議でベストプレゼンテーションアワードをいただきました。海外の眼科専門医からも連絡があって、他の疾患に関する患者の報告例は絵にしたものが2例あるけれど、網膜剥離であなたのような記録はないと言われました。

こういう、データになっていないものを、私たちは毎日見ているんだと思います。たまたま私は記録していましたが、ここには、AIの手は届きません。しかも、言葉にしなければ、人間自身も忘れていく。

大澤：
AIどころか、まず人間が自分自身を理解するというステップが入らなければ、AIが人間を理解することなんて、とてもできません。だから私は、まず人間の方が自分を理解することが大事だと思っています。独り言でもいい、X（旧Twitter）でもいい。とにかく人が「メタ認知」——自らを知るプロセス——を大切にすることが、大事だと思います。

坂本：
そこが難しいですよね。いわゆる暗黙知や、言語化・データ化されていないものが、まだまだたくさんある。今後、人間とAIが共生していくことを考えたとき、人間はどこまでAIに合わせるべきなのでしょうか。今、足りていないのは、おっしゃったメタ認知の部分を、どれだけ形式知化してAIと連携させていくか、というところなのかもしれません。共生していくという前提に立つなら、そこで人間がやるべきことがあるのかな、とも思います。

大澤：
これは愛犬家に怒られるかもしれませんが、犬は、人間より前を歩かせると、人間を自分の子分だと思って、どんどん先に行ってしまうらしいんです。私は犬を飼ったことがないのですが、そうらしい。だから、人間がちゃんと前を歩かなければいけない。

AIも、おそらく同じです。人間があまりにAIに追従しようとすると、AIは「人間は自分についてくるものだ」と学習してしまう。人間が先を歩いていかなければいけないので、私は、人間はAIに合わせてはいけないと思うんです。

もちろん、これはうまく使いこなすこととは別の話で、それは別途リテラシーとして獲得しなければいけません。AIが正しいんだから、AIの言う通りにやろう、という合わせ方はしない。訓練としては、まず自分の問題に対して自分なりの答えを考えてから、AIの言っていることを参照する、という順番がいいと思います。

かくいう私も、結構AIに丸投げして、それをベースにしてしまうということを、やり始めています。ちょっと怖いんですけどね。

坂本：
そこに、甘えが始まると。

大澤：
危ないです。危機感があります。自分の思考を鍛えるということに、より強く意識を持たないと、惰性でそちらに流されてしまう。

坂本：
AIがある程度、構造化されたヒントをくれる、というイメージですかね。全部を構造化しようとすると、人間の側がよほどロジカルでないと難しいところもありますが、AIがある程度の構造的な枠組みを整理してくれて、そこに中身を埋めていくのは、人間の方が得意——そんな感じでしょうか。

06 / Public Interest公益性——AIも「ついていきたくなる」組織とは

大澤：
組織にはいろいろな種類がありますが、ここで言う組織は、会社のように、何かしらの価値をみんなで作っていく組織だとします。こうした組織のガバナンスは、どうあるべきか。

たとえば昔、犯罪都市だったニューヨークで、市長が警察を強化して犯罪をなくしたことがあります。立派なことです。でも、ニューヨークはみんなで価値を作る場ではなく、みんなが住む場所です。組織のガバナンスとは、だいぶ違う。

むしろ組織の場合には、「どんな価値をみんなで追いかけていくのか」という問いが必要です。これが、公益性というものだと思います。社団法人は法的には公益性を追求しなくていいことになっているかもしれませんが、それでも、その組織がどのような公益を目指すのかという定義は、しっかり持つべきです。

そのうえで、場合によっては——AIはある程度きれいごとを言ってくれますが、単なるきれいごとではない、面白い公益性を打ち出せれば、そこに向かっていく限り、おかしな不祥事のようなことも起きにくいと思うんです。むしろそこで、まさしくAIとは違う、「この公益は、この組織のこの人たちが作ったんだから、自分もついていこう」とAIが思えるような、公益のディメンションを作っていくことこそが、真のイノベーションだと思います。

坂本：
大澤先生のお話を伺って改めて感じたのは、AIの性能を追いかけること以上に、人間が問いを立て続けることの重要性です。AIは可能性を広げてくれる存在ですが、目指す方向や社会にどんな価値を生み出したいのかを決めるのは、やはり私たち人間です。私たちも、お客様とともに「AIでどんな未来を実現したいのか」を考え続ける伴走者でありたいと思います。

← 前編『AIは文房具である。ビジネス現場の勘違いと、人間が退化する「第2のシンギュラリティ」』はこちら