「ドラえもん」のAI学者が語る。AI時代の人間力とは
コメント
注目のコメント
「僕たち技術者や研究者がAIを擬人化しないのは、テクノロジーの中身の設計を知っているから」とありますが・・・
何が正しいAIの擬人化なのかは科学者が決めることではないのではないでしょうか？もはやこれだけAIが身近になっている中で科学者が「わかってないなー」という態度で自分たちの専売特許みたいにAIのことを語るのはもはや過去のことだと思います。
AIが人種差別的アウトプットをした時に、それは学習データの中にバイアスがあったからというのが科学者の返事だったとしても、すでにそれでは済まされない世界になってきました。
仕組みを知っているかどうかとAIについて見解を述べられるかどうかは関係のないことです。先日シーボルトで有名なオランダのライデンという街を散策してきたのですが、この街にはRijksmuseum Boerhaaveという科学博物館が有ります。
ここではAIをテーマとした特別展が開催中で、アルゴリズム差別や生成系AIといった最新のトピックも網羅したAIと社会の関係を考える素晴らしい展示でした。
この特別展の壁に引用されていたのがこの言葉。
“Technology is neither good nor bad; nor is it neutral.”
(技術は善でも悪でもなく、中立ですらない)
これはクランツバーグの第一法則と呼ばれ頻繁に引用されるものの、その解釈は色々に議論されます。
その背景事情を調べていて面白い紹介を見つけました。
https://thefrailestthing.com/2011/08/25/kranzbergs-six-laws-of-technology-a-metaphor-and-a-story/
クランツバーグは技術が社会の様々な要素を規定する「機械が人間を支配する」技術的決定論と「技術は機会を与えるに過ぎない」技術的主意主義を対比し、共に不完全としてこの第一法則を提示します。
そのポイントは、同じ技術でも適用された文脈や条件によって全く異なる結果が、時に本来の目的を越えてもたらされる事です。大規模言語モデルもチャットボットという文脈に適用されることで様々な影響を生み、擬人化もその一つと言えます。
そうした影響の扱いを考えるヒントも残りの法則に見られますが、一貫しているのはクランツバーグは技術とその活用をとても人間的な営みと考えていた事です。以下、彼による素敵なたとえ話。
「ある女性がコンサートの後にバイオリニストのところにやってきて「マエストロ、あなたのバイオリンは素晴らしい音楽を奏でますね」と賞賛したところ、彼はバイオリンに耳を当て「音楽は聞こえませんが」と言いました。ほら、楽器、ハードウェア自体は人間の要素が無ければ役にたたない。でもこの楽器が無ければ彼は音楽を奏でることが出来ませんでした」
擬人化についても単にそれは技術的に正しくないとトップダウンに否定するよりも、擬人化という事象が現れる背景を技術と受容する社会の両面から考察しより優れたUXに昇華していく過程が求められているかと思います。
