Opinion : テック業界がパブリックエネミーになる懸念 (2025/6/16) 　 新しいテクノロジーや製品やサービスが世に出て、そして話題を集めたとき。何も問題を引き起こさないで定着する分にはいいけれども、ときとして、既存の社会規範や法制度の枠組みからはみ出してしまい、軋轢を引き起こすことがある。 あるいは、意図的に既存の社会規範や法制度の枠組みに対して抜け穴を突いて、新たな製品やサービスを送り出す人もいる。その場合、往々にしてロビー活動などを駆使して、政治サイドから外堀を埋めることになる。(せっかくの抜け穴を塞がれたら困っちゃうからね) それに加えて、新しいテクノロジーや製品やサービスが世に出てきたときに、それをいかにして悪用するかという方向に知恵が回る人もいる。これが困ったことに…　というか、それを企図しているからこそ、既存の社会規範や法制度の枠組みにおける抜け穴を突く形になりがち。 で、なんの話かといえば生成 AI である。 イスラエルとイランがまたぞろ、撃ち合いを始めた。そしたら「イランが F-35 を撃墜した」といい出す人が現れた。真偽の程は知らんけれども、その証拠として出てきた映像がゲームの画面だったり、F-35 と称しているのにどう見ても Su-57 な機体が映っていたり。まあ、こういうのはただのお笑いだからいい。 問題は、生成 AI を活用すれば、いかにもそれらしい画をデッチ上げられること。うちでときどきやっているように、意図的にネタ画像を生成させている分には人畜無害であるけれども、フェイクニュースを本物に見せるために生成 AI で "証拠の画像" を捏造するとなると、笑い事では済まない。 政治的にセンシティブな話題だと容赦なくプロンプトをブロックするくせに、こういう「嘘ニュース」がらみのプロンプトを、果たしてブロックしているのか。あるいはそんなことはそもそも可能なのか。 なにせ嘘ニュースというやつは、そのとき、そのときのトレンディな話題、かつ陰謀論者などが好む話題、という条件が揃ったときに湧いて出ることが多い。次々に変化する話題を、スタティックなキーワードあるいはロジックで効果的にブロックできるかといえば、これはまことに疑問。 「そのとき、そのときの時事ネタに合わせて、生成 AI がブロックする対象をコントロールするように、許可されないプロンプトのリストを動的に変化させる AI」という冗談みたいなことを思いついたけれど、これはたぶん冗談にしかならない。テクノロジーによる解決策は往々にして、テクノロジーによって突破される。 それに、メジャーどころの生成 AI (ChatGPT とか Gemini とか Craiyon とか) だけ規制したところで、たぶん効果が上がらない。どこかの国が、フェイクニュースによる宣伝戦を仕掛けるために自前の生成 AI を用意するようにことになっても、驚きはしない。いや、すでにやってるんじゃないか。 結局のところ、受け手の側がインチキを見抜いてスルーする、というぐらいの対処しか思いつかないけれども、これとて簡単な仕事ではない。数十億人もの人がいれば、その中には、インチキに釣られない人も、インチキに釣られる人も、インチキを喜んで拡散する人も、インチキをばらまく人もいる。 テクノロジーが人類のため、社会のためになるかどうかは使われ方次第、そして悪用する事例が先行するのは間々あること (悪党の方が悪知恵が働くので、そうなる)。テクノロジーと社会の関わりの歴史は、悪用と善用と規制と抜け穴探しが入り乱れた物語であった、といえるかも知れない。 ここから「嫌味のコーナー」。 昨今、「イランが F-35 をフンダララ」と吹かしている人達、たぶん、しばらく前には「フーシ派が USS D.D.Eisenhower (CVN-69) をフンダララ」と吹かしていた人達と重なることが多そうではある。そして重なっていた場合、おそらくはもう、フーシ派の話もアイクの話も忘れている。 どこかの国の野党もそうだけれど、そのとき、そのときのトレンディな話題に乗っかって、正義の味方みたいな顔をすることばかり繰り返していそう。ただ、口頭で吹聴した話ならお空に消えていって終わるのに、ネット上に撒き散らした嘘やインチキの類は、消えてなくならない分だけ始末が悪い。 そういう人達と最新のテクノロジーの相性がよろしい、という状況が続けば、これはもう、テクノロジー業界がパブリック エネミーになる可能性につながるんじゃないかと心配になる。業界の側から先手を打ってなにかしらの策を講じないと、いずれ自分で自分の首を絞めることになるやも知れず。 (そこでエンティティによっては、アリバイ作りみたいな「問題解決のための取り組みを進めています」なリリースだけ出して終わり、という展開もあり得そうではあるけれども)

Contents HOME Works Diary Defence News Opinion About

| 記事一覧に戻る | HOME に戻る |