Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など
コメント
注目のコメント
いつの話をしているのか。アルファベットはGeminiの性能をどんどん向上させて、株価は史上最高値にあるのに。生成AIで倒れるのはこういう記事書いている人と掲載するメディアでは
＞企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。
それは違うよね。
人間がやろうと、ITシステムにやらせようとそのプログラミングは人間がやっている以上、AIに限らずミスは起きる時は起きる。
なので、AIかどうかに関係なく、ミスが生じる前提でリスク評価をして、リスクが受容できないほどに高いなら内部統制を構築・運用する。
逆にリスクが受容できるほどに小さいと評価できるならAIでも人間でも、やらせれば良いだけ。
人間の場合、よくいうダブルチェックを設けるのは人間はミスする可能性が一定程度高いから。つまりリスクを受容できないから。
AIにも同じ対応をすれば良いだけで、使わない、というリスク回避策をやるのはちょっと違う。今の生成AIでも、感覚的には8〜9割の信頼性は実現できます。相当工夫は要りますが。でも1〜2割ミスがあると、チェックの手間が馬鹿になりません。そもそもチェックできない人は使えないことになります。これが生成AI普及の阻害要因です。
ところが99%の信頼性があると、多くの場合に人間を超えます。生成AIに概ね任せて、時々チェックという運用ができるようになります。
おそらく99.9%の信頼性なら、AIに任せっきりで、失敗リスクを受容するという運用もありえます。もちろん分野によりますが。
だから、各社共に生成AIの信頼性向上に力を入れているのです。
