2024/03/14追記：
「AI属性分析」に名称が変更されたそうです。先日、そういう旨のご報告を頂きました。というわけで、この件は終わりです。言いたいことは多々あるが、終わり。もう忘れることにする。記事は残すけど。
＊＊＊
2023/09/13追記：
最初にこの記事を公開してから、およそ２カ月経ちましたけど。未だにAMBL株式会社からアナウンスとかはなく、だんまりですね。
＊＊＊
2023/07/18追記：
問い合わせを行い、株式会社AMBL事業推進統括部広報担当の方から下記の旨の返答が届きました。
- 名称変更の可能性も含めて、関連部門と協議・調整
- ラベリングについての問題は真摯に受け止めるものの、
- あくまでデータ指標の一つで個人を特定する機能はない
- 差別を助長する意図はない
差別を助長する意図がないにしても、極論、当事者が「差別」と感じれば差別になるでしょう。悪気がなければ許されるというものではありません。
とはいえ名称変更に向けた対応が進められているという点は評価します。
続報があり次第、逐次追記します。
2023/07/23追記：
未だAMBL株式会社の公式サイト等には、この問題に関する声明等は無し。プレスリリースの取り下げといった対応も見られていない。まるでこの問題は存在していないかのような扱いだ。
その一方で、会社PR記事を公式ブログにてパブリッシュしているという動きはある。
|
|
COLORS by AMBL, 2023-07-23, 午前７時時点でのスクリーンショット,
人物にはモザイク加工を加えている |
着々と不信感が募っている。
2023/07/25追記：
ひとまず「Agender」の記事は消えた模様。しかし未だAMBL株式会社の公式サイト等には、この問題に関する声明等は無し。プレスリリースの取り下げもありません。
ノンバイナリー啓発週間（※Agenderはノンバイナリーのひとつです）に、このプレスリリースを出していたんですよ。その意味を分かっています？ プライド月間に反LGBTQ+デモ行進を行うのと同等の暴挙ですよ？ でも、その自覚はきっとないはず。おそらく「ノンバイナリー啓発週間」なんて言葉も知らないのだろうから。その点は、もう「しゃあねぇ……」としか。
とはいえ、もう一週間が経過しています。そろそろ公に向けて一言ぐらいあってもいいのでは？
対応が後手に回っているという記録はこうして残しておきます。数か月後か、数年後か、後の評判に影響が出るかもしれませんね。
本当に、初動を誤っています。速やかに謝罪文なりなんなりを公開し、今後のロードマップを併せて公開していれば、そこで終わりにしても良かったし。そうしていれば、ここまで徹底的にネチネチと書き連ねることもなかっただろう。
|
|
COLORS by AMBL, 2023-07-25, 午後23時時点でのスクリーンショット, 人物には塗りつぶし加工を加えている |
|
|
PR Times掲載のプレスリリース, 2023-07-25, 午後23時時点でのスクリーンショット。 未だ取り下げといった対応は見られていない。 |
現時点では特大の不信感しか抱えていませんが、それでも「誠実な対応を期待している」と一応書いておきます。
2023/08/10追記：
この記事で問題としていた「Agender」のサービスサイトおよびスマートフォンのアプリストアで配信されていた性別分析アプリ「Agender」がこっそりと非公開化され、検索エンジンの結果から削除されていたことを確認したので、追記します。
未だ声明等は何らなく、すべてサイレントに行われている。指摘やクレームや波風など最初からなく、表向きは事なかれで終わりですかね。あーあ。
きっと「望んだとおりの結果が手に入って良かったよね、そうでしょう？」と言われるかもしれないが。どうしてだろうか、この対応にとてつもなく怒りを覚えている。
当事者を存在しないものとして扱い、当事者の靴を踏み付けておきながら。当事者が『その靴をどかせ！』と怒ったら、『ハイハイ、分かりましたよ～』みたいな舐め腐った態度で靴だけをどかし、その後は謝罪もなく無言で去っていった。――認識としてはそんな感じ。
この約1ケ月の間に、自意識過剰だの被害妄想だの過剰に騒ぐなだのと言われてきましたよ。そうかもしれないと思って、あまり怒りを出さぬようセーブしてました。
が、なにこれ？
無名の個人たった一人がキーキー騒いでいるだけだし、という認識なんでしょう？
世の中、他には誰も騒いじゃいないから「何もなかった」ってことにしようとしてるんでしょう？
自分の個人的な意見として、だけど。これから先、どんな言葉が出てこようが許さないし受け入れない。系列も提携も関連している企業、全て利用しない、二度と。
SEIKOの時計なんぞいらないし、テレ朝の偏向報道にはウンザリしてたし、マネーフォワードなんて信用してないし、楽天はそもそも登録さえしてないし。それにポケモンと縁のない人生で本当に良かった。あと伊藤忠商事の株は絶対に買わない。POLAはホテルのアメニティでとんでもない肌荒れを経験したことがあったから、二度と使うことも無いし今後買うことも絶対にないだろう。
真に救いの手が差し伸べられるべき経済的に困窮した女性たちには何ら縁のない「割高なフェムテック」で仮初の徳を稼いでいる企業の本質なんてこんなもんでしょ、ということを知れて良い経験になりました。フェムテック、フェムテック！と謳っているベンチャー企業は今後訝しむようにします。
そんなわけで、自分は「ひとりでキーキー勝手に騒いでるだけのノイジーマイノリティー」でもう構いません。結果だけは得られたわけだし。いいよ、これで終わりで。
ただし、この記事だけは絶対に残す。消さないから。
＊＊＊以下、2023年７月上～中旬に公開したものです＊＊＊
「I'm Agender.」―しかし個人の容姿を勝手に分析して年齢性別を一方的に割り当てるAMBL株式会社の顔認識AI「Agender」に反対です
自分がプロフィール欄に「Agender」と書き示すようになって、おそらく８年ぐらいが経過しようとしている。そして今でも覚えている。初めてこの言葉および概念と出会ったときに感じた、ストンと心にはまる感覚を――。
一応、肉体的な性別・セックスにおいてはFemaleが割り当てられると自覚している。毎月毎月、忌々しき生理が周期的に来てくれていやがるわけだし。そのことは、仕方ないと素直に受け止めている。
けれども精神的な性別・ジェンダーにおいては、話が違ってくる。「女」という概念の中に自分がカテゴライズされていること、これに自分は長いこと居心地の悪さを覚えていた。
なので「女らしさ」の象徴のように感じられるスカートやワンピースは絶対に履かないし、普段の服装といえばTシャツにジーパンだし、そうじゃないとしても「ユニセックス」と括られるスタイルであることがほとんど。
それに学生時代には、葬式・法事の際に当時の制服「スラックスタイプの制服」を着て行ったら、顔も名前もよく知らない遠い親戚の
クソb... お迎えが近いであろう年齢の御方から「女か男かも分からない気持ち悪い子だね」と言われたこともあります。……――クソがよ♪
しかし、世間においては「男性装」と括られがちな服装を好むからといって、自分は「Male」にも「男」にもなりたいわけではないし、そのような願望はない。薄毛の宿命なんて欲しくないし。それに気が向いた時は女性っぽい服も着るし、稀にメイクもするよ（めんどいから「ベースメイクで顔色をマシにした、これでヨシ」ぐらいで終わりにしちゃうけど）。
――そんなわけで、自分は「女扱いされるのはムカつくが、かといって男になりたいわけではない」という面倒くさいことこの上ない人間だった。
しかし。自分としては「ひとりの人間として、ただ単に”個人”として尊重してほしい」ということを言いたいだけ。だが不思議なことに、この単純な言葉ほど伝わらない。なので古い年代の人々からはこう言われるのだ。
「女なのか、男なのか、ハッキリしろよ！」
そのような言葉に「うるせぇ、黙れ！！」と（心の中で）叫びながら、自分はある気付きを得た。――世の多くの人は「男か、女か」の二極でしか物事を見られなくて、それ以外の生き方を”観測”することさえできないようだ、と。
それに気付いてからは少しだけ生きにくくなった……――ように思えた（幸いにも、他人の意見をまったく参考にしない人間なので「生き方を変えよう、女らしくならなければ！」とは一ミリも思わなかった。が、他人が「思慮の浅いバカ」に見える呪いにかかってしまったので、そこからくる自己嫌悪に悩まされるようになった）。
フラットな目で”その人そのもの”を見て欲しいと、そう言っているだけ。でも、周囲の人々は呆れるほどその『単純な言葉』を理解してくれない。それは、なぜだ？ ……そう考えるうちに、あるときふと思った。もしかしてこんなヘンテコなことを思っているのは自分だけなのか、と。
世の人々は自然と「男女の二極」を受け入れていて、そのどちらかに身を置くことを素直に受け入れているのだろう。なにかと物議を醸しやすいトランスジェンダーという存在なんて「男女の二極」を受け入れている象徴みたいなものだし。レズビアンもゲイも、男女という存在にこだわるからこそ生まれているような性的指向である。
これが意味することは、つまり、「男女の二極」を拒む人間なんて存在しないってこと……？
「――なわけねぇだろ、バーカ！！」
頭の中に浮かんだ愚かな考えを即座に否定した自分は、あるときインターネットの海にダイブして、同類を探すべくあちこちを調べ回ってみた。そして見つけたのである。Agenderという言葉を。
Agenderとは「ノンバイナリー」や「Xジェンダー」に近いものの、それらよりも『社会におけるジェンダーの在り方』を疑ってかかる挑発的な態度のこと……かも？
|
| Aジェンダー｜LGBTQ+ Wiki |
歴史やら詳細やらは、上のサイトが詳しそうなので、そちらに解説を任せるとして。あと、こちらのnoteの内容も詳しいのでぜひ（かなり同意できる部分が多い内容で、本当に驚いた。日本にもおるやんけ、ちゃんと同類が。いぇい！）。
んで、ざっくり言うと。Agenderとは「自分は男女の二極のいずれでもない」ことを表明する者のことであり、「男女という二極を否定してかかる」態度のことだと自分は解釈している。そしてそれは、まんま自分だ。これほどまでに相応しい肩書は他になかろうて。
AMBL株式会社の「Agender」という名の顔認識AIは、しかし人を男女の二極のいずれかに割り当てるものだった
そしてここからが本題。先日、ライフワークのインターネットサーフィンをしていたときに、ひょんなことからあるサイトを見つけた。それがAMBL株式会社による「Agender」という名を冠したAIサービスを紹介するものだった。
興味もといある種の嫌悪感を覚え、覗きに行ってみたら。なんと、そこにあったAIサービスは「Agender」という名にそぐわないどころか、道徳観もとい倫理観を疑うサービスだった。
|
|
Agender｜AMBL (魚拓) |
昨今、AIサービスはなにかと世を騒がせている。ChatGPTやBardのようなチャットボットや、MidjourneyやStableDiffusionのような画像生成AIなどがやり玉に挙げられがちだが、個人的に最も「メリットよりもデメリットのほうが遥かに大きく、社会秩序そのものに齎す弊害が大きすぎるのでは」と感じているのが顔認識AIである。
顔認識AIに付随している機能といえば、個々人のラベリング。AIは学習元データを参照して、捉えた人物を「男女のどちらであるか」「年代はどれぐらいか」「該当しうる人種はどれか」「怪しい挙動をしていないか」等々……とラベリングしていく。このラベリングそのものに、自分は問題意識を抱いている。
なぜならラベリングとは、ある特定の枠の中に強引に押し込めようとする行為であり、それは生きづらさの源であるからだ。必ずしも「そのひと」が何らかの枠に当てはまるとは限らないし、枠を拒むこともあるだろう。そういった人々を強引にラベリングしていく行為は、その人の尊厳を踏み躙るものであるし。それは世に蔓延っている「男とは、女とは、こういうものである！」という悪しき慣習や、ジェンダーバイアスというものを助長することに繋がらないだろうか？
凝り固まったジェンダーバイアスが蔓延る世界は、自分のような変人のみならず「男女」の中に区分されることを望む人々にも悪しき影響をもたらす。今、せっかくジェンダーバイアスを破壊しようとする流れが生まれつつあるのに、そのジェンダーバイアスを利用して性別を判断するAIなんて「ジェンダーバイアスの悪魔」そのものではないのか？
そして、このAMBL株式会社による「Agender」というものは、自分が最も懸念していたことを見事にぶちぬいてくれた。抱えていた一番の懸念点を綺麗にフルコンプリートしなくてもいいじゃないか、と呆れたくなるほどフルコンプリートしている。
来店客の性別・年齢を知りたいあなたへ。――この時点で、もうダメだ。来店者の同意なく情報を収集する時点で、アウト。「個人情報は収集せず、ラベルデータのみを統計として収集」と言い訳したところで、来店者の同意なく情報を収集している時点でもうダメなんだって。
それに、上述の懸念もそうなのだが、それ以前に勝手に性別や年齢を割り当てるだなんて、ヒト対ヒトのコミュニケーションにおいてもめちゃくちゃ失礼極まりない行いだ。年齢を一方的に断定されたら怒りたくなる人もいるだろうし。それに見た目（ジェンダー）と肉体的性別（セックス）が必ずしも一致しているとは限らないうえに、自分のように「はぁ？！ なんでテメェが勝手にコッチの性別を決めてくれてんだよ、ふざけんな！！」っていう人間もいる。いや、本当にマジで「ふざけんな」だよ。
挙句、性別の断定基準には「Male」と「Female」の二つしか搭載されていないようだ。
男女の二極を否定する態度「Agender」の名を冠しておきながら、AMBL株式会社のAIがやっていることは「人を男女の二極に割り当てる」かよ！！！
本当に、これは「ジェンダーバイアスの悪魔」だ。そうとしか言いようがない。憤懣やるかたない、とはこのことだ。
どうしてこんなことが……と怒りに震えながら、運営会社であるAMBL株式会社のHPを覗いてみたところ、しかしコンプライアンス憲章なるものが存在していて驚いた。
AMBL株式会社、コンプライアンス憲章、３番。……溜息しか出ないな。
サービスの撤回や停止までは求めない、だが「Agender」の名を使うならその意味をしかと理解してほしい
ここまで批判を書いてきたが、これはサービスの停止を求めるための糾弾ではない。せいぜい、Agenderという名を使いながらもそれが意味するものと正反対のサービスを展開しているから激怒した、そして意見するため記事を認めた、ってなとこ。だから、このサービスが今後どうなろうがどうでもいい、最低限サービスの改名はしてもらいたいと願ってはいるが。
しかし、停止までは求めないよ。そういったサービスにニーズがあることは分かるもの（このサービスを利用しようと考える人間は、正直いうと軽蔑するが）。停止までは求めないが、使われる機会が減って自然淘汰される未来が訪れることを望む。
そして多くの人が問題意識を抱いてくれることも望む。これは頭のおかしい変人の怒りを買うだけで終わる問題ではない。誰もが悪しきジェンダーバイアスに縛られる社会を助長しかねないものであるから。男らしさ、女らしさに誰もが縛られなくてはならない世界なんて、窮屈さしかないだろう。そんな世界を望んでいる人は居るのかい？
やっと、社会に自由の風が吹き込み始めたのに。AIがその邪魔をする未来は避けなければならない。
補足的な追記：
突発的な怒りに任せてダダダッとこの記事を一時間足らずで執筆したあと。半日後に再び内容を見直したとき。この内容ではまだ説明不足かもしれないと感じたので、追記を加える。
眠い頭で書き加えたものなので、乱文になっているかもしれない。ごめんねー。
既存の言葉を「名前」に使う行為は「路頭に迷う哀れな子羊たち」を大量に生み出す恐れがあるため、決して褒められた行いではない。
アップル。その言葉を聞いた時、何を思い浮かべるだろう。
本来、真っ先に連想されるべきなのは「赤い皮の果実、林檎」だし、それ以外は出てこない状態が望ましいのだが。人によっては「ビートルズ」という存在を思い出すかもしれないし、「ああ、あの悪質な囲い込み商法で有名な企業ね」となるかもしれないし、または「中古車買い取り！」を思い浮かべるかもしれない。
ちなみにGoogle先生に「アップル」と尋ねると、悪名高いほうのアップルがTOPに登場します。
|
| ペルソナ・ノン・グラータ |
あと。「トラジャ」といえば自分は「コーヒーのトアルコトラジャ」を思い浮かべるのだが、最近は「ジャニーズ事務所のアイドルグループの略称」が重篤なレベルの検索汚染を引き起こしている。トラジャコーヒー好きの自分としては、暗澹たる思いでいっぱいだ。
そして、この記事を書かなければと考えた一番の理由が、まさにコレ。既存の単語が、後発のものに意味を取って代わられる、その事態を恐れたからだ。
ここ数年で、日本に「LGBT」という言葉が定着した。活動家の貢献もあるだろうけど、一番はオールドメディアが重い腰をあげて頑張ったおかげである。いい意味でも悪い意味でも、ひとまず「LGBT」は広く大衆に認知された言葉となった。
が、グローバルの方向に目を向けてみると。そこでは既に「LGBTQIA+」がスタンダードになりつつある。そして潮流の最先端に近い部分では「LGBTQQIAAPPO2S」のような、もはや暗号みたいなものが使われていたりもする（ここまで来ると「もう、ひとつに纏めようとしなくていいよ」とすら感じるが……）。
だが。日本のメディアを見てみると、まだ「LGBT」という言葉で止まっている。その先、もとい「それ以外の性の在り方」が見えてこない。
つまり日本では、というか「日本の知識層やオールドメディア界ですら」セクシャルマイノリティ（以下、めんどっちいので「セクマイ」と略す）への理解はまだまだ足りていないと言えるのだ。となれば、一般層はもっと無理解であると考えるべき。
現に「日本のインターネット界のゴミ溜め」みたいな存在であるヤフコメ民は未だに地獄絵図だ。トランスジェンダーとインターセックス（性分化疾患）とただの性犯罪者の区別もロクについていない状態の人間が、無理筋な理屈をこねて罵詈雑言を連ねている光景は、恐ろしいほどよく目にする。ヤフコメ民がこの有様なら、一般層は「もう少しマシかもしれないが、しかし『ほぼ何も知らない』状態にある」と予想しておくべきだろう。LGBTQ+の活動家さえ、まだまだ理解が乏しかったりする（特にインターセックスの扱いは危うい）のだから、一般層の知識量に期待などできない。
そして、この一般層の中には「生きづらさを抱えているが、この生きづらさを生み出している根源に与えられる名前が分からず、モヤモヤしたものを抱え続けている“自覚なき当事者”」が潜んでいるはずなのだ。
LGBT以外のセクマイに該当しうる”自覚なき当事者”が「正しい情報」にリーチできる機会は限られている。そもそも、その概念に接触できるかどうかは限りなく運に近いわけなのだから。
にも関わらず、リーチしたその言葉の意味を調べようと検索サイトを利用した時に、検索結果として出てきたものの中に「その言葉が本来意味するものとは何ら関係の無い、同名の情報」が出てきたとしたら？ ――“自覚なき当事者”をたやすく混乱に突き落とすかもしれない。自分が懸念しているのは、まさにコレなのだ。
検索汚染、それは時に“自覚なき当事者”を苦しめ、最悪の結末をもたらしかねないものである。セクマイ当事者の中には、メンタルが危うい状態にある者も少なくはない。その危うい状態にある者たちの背中を、検索汚染は間違った方向に押しかねない。
そのときに、検索汚染を生み出した当事者たちは「社会的責任」を負えるのだろうか？
おそらく無理だろう。だったら、このようなリスクは避けるべきだし、今回取り上げた「Agender」という顔認識AIは最低最悪のかたちで検索汚染を行っている。Agenderという生き方を調べたいのに、Agenderが掲げる理念とは真反対のことをやってくれているAIサービスが出てきたら、迷える”自覚なき当事者”はツラい思いをするだなんて程度では済まない。
本当に、何を考えてこんな名前にしたのかと問い質したい。
全ての「Agender当事者」が、自分のように堂々と開き直れるかといえばそうではなく、恐らく大半は「この道で正しいのだろうか」と悩みながら手探りを続けている状態であると考えている。その状態にある「名も知らぬ同類たち」が正しい情報にリーチできる環境を、自分は守りたいのだ。
であるからこそ「Agender」という紛らわしいサービス名に激怒しているのである。ゆえに、どうか配慮を。そう願っている。あなたがたのサービスが原因で苦しみ、万が一にも道を違えた者が出たとしても、あなたがたは責任をとれないはずなのだから。責任が取れないなら、紛らわしいことはしないで欲しいのだ。
もしかしたら「AI＋Genderを見分けるｳﾝﾁｬﾗ~」で「Agender」となったのかもしれないとも、今は考えている。だが、だとしても擁護の余地はない。既存の単語を調べるリソースを省いたことも、無知であったことも、非難すべきことだ。
元号ぐらいに徹底的に調べて「存在しない言葉」を作るべきだった。新しいサービスをローンチするなら、どんなものでもそれを心掛けていくべきなのではないのか？
新たなテクノロジーを頭ごなしに否定しているわけではないが、とはいえテクノロジーには羅針盤が必要であると考えている。
自分は全てのAIに反対しているわけではない。画像生成AIで遊んだりもするし（物議を醸したmimicも利用してみたりしている; 散々な結果に呆れ返ったが）、ChatGPTをオモチャにしていたし（過去記事を参照; あれきり飽きて、もう触っていない）。結局、新しいものは好きだから。割と柔軟な姿勢で受け止めているほうだと思うよ。
ただ、テクノロジーに関してはこう思っているんだ。テクノロジーの暴走は許すべきでなく、それを抑えるための羅針盤が必ず必要である、と。
テクノロジーは「新たな時代を拓き、生活を変える道具」だ。それは素晴らしいものであるが、その一方で懸念もある。テクノロジーは利便性や合理性を追求するあまり、心理的配慮や法律を無視するかもしれない。また、無計画な開発は現在や遠い将来に悪影響を及ぼし、公害や異常気象や貧富の格差といった深刻で甚大な被害をもたらす可能性もある。
だからこそテクノロジーには「制限」を掛けるべきなのだ。それは法律であり、道徳であり、良心である。そして、それらを定義するのは「思想」という羅針盤。今の時代における最善の「思想」を、テクノロジーは併せ持つ必要があると自分は考えている。
日本では何かと軽視されがちな「文系」。だが、俗に文系と括られている学問の大半は、無くてはならない重要なものだ。人文科学は「人間とはどのようなものなのか」を問い続ける学問であり、社会科学は「社会は人に何をもたらすのか」を追求し続ける学問である。いうなれば、これら文系科目は「時代を定義するもの」。社会が、時代が、どのように転ぶのかを左右するものだ――良い方向にも、悪い方向にも。
新たなテクノロジーを、現在の「最善であるとされる思想」でコントロールし、よりよい方向に活かしていくこと。これは特に、現在「勃興期」にあるといえるAIに一番求められているものだと思う。
AI開発ベンチャーは「画期的ですんごいコードの書ける＆イエスマンな姿勢の開発者」ばかりを求めがちだが、それよりも取り入れるべき人材は「文系を学んだ良識ある者」だし、本当に求められている人材は「幅広い分野に精通している、バランスの取れた管理官」または「リベラルアーツ＆信念に基づきNOが言える開発者」であるはず。コンプライアンスがなぜ必要なのかを説明することができる人間こそ、テック系事業に参画するべきで、それが出来る者がいない環境はリスクの温床であると考えるべきなんだ。
それに。2chやら8chという「おぞましい怪物どもの巣窟」を生み出し、Q系陰謀論者の巣食う掲示板を天塩にかけて育て上げながら、今ではそんな過去などなかったかのように居直って平然とメディアに出続けている『ひろゆき』のような「良心や遵法意識が欠落している開発者」は、もう二度と現れなくていいし、これからの時代はああいう存在がちゃんと罰せられるようになっていくべきだ。
「これ、すごいでしょ！」というテクノロジーだけで突っ走ると、傷付くものが絶対に出る。突っ走る前に「待って、別の視点からもう一度よく検討し直そう」と言える人物が、居るべきなんだけど。なー。
2023/07/23追記：アメリカの大手テック企業は既に顔認識AI開発から撤退した、それも随分と昔に。
先に断っておく、乱筆乱文失礼。
＊＊＊
昨日だか一昨日だか忘れたけれども、テレ東のWBSで「表情を分析して数値化し『見える化』するAI」が取り上げられてましたね。またかよ、と思ってチャンネルを変えてしまった。
見える化。この言葉が嫌いだ。最初に言い出したトヨタが独自に使うのは、まだ分かる。が、後追いでこの言葉を使う連中には反吐が出る。可視化という言葉があるにも関わらず、なぜそれを使わないのかと。
それに「見える化」によって可視化された数値とやらの内容も、たいてい反吐が出るものばかり。世界の最先端を行くアメリカで何年も前に「倫理的に問題がある」との理由から否定されたものを、日本のAI開発企業、倫理を省みない浅慮な日本のAI開発企業が「ブルーオーシャン見つけた！」とばかりにウキウキと開発を進めている様子には反吐しか出ない。
連中はマジで世界情勢を見ていないし（下手したら国内も見ていない）、技術のアップデートはするくせに「グローバルスタンダード：世界での常識」のアップデートはしないのだなと呆れるばかりだ。そして今回の追記では「表情」に焦点を当てて書いていく。
表情やジェスチャー。そこに紐づけられた意味は民族・文化ごとに大きく異なっている。言語の数だけ、民族の数だけ、意味があると言っても過言ではない。仮に同じアクションをしていたとしても、同じ意味を示すとは限らないのだ。
握りこぶしに親指を立てたグーサインも、ところ変われば中指を立てるぐらいの侮辱のサインに意味が変わる。それに今では日本でも「白い歯を見せて笑う顔」は良い笑顔と認識されているが、しかしその昔の日本では「歯を見せる行為ははしたなく、歯は隠したほうが美しい」と思われていたし、その理由から歯を黒く染めていた時代があった。歯を白くしたがる今の時代では、到底考えられないことだけれども。
そのように、世界には様々な「表情」や「ジェスチャー」の意味があって、そこには歴史的背景や大切にされてきた土着の価値観が根付いている。だが、それを「数値化して情報を抜き出す」となると、どのような問題が発生するのか？
簡単に言うと、偏見と差別だ。日本人が開発したそのようなAIは日本的な価値観を持つだろうし、その日本的な価値観というフィルターを介して「すべての表情・ジェスチャー」を見ることになる。そこに、歴史的背景に基づく文脈を汲む能力はない。なので日本的な価値観でチューニングして、チューニングした情報から「数値化」を行うわけだが。それが『正しい』情報になり得るだろうか？ そうはならないだろう。
たとえば、先に例を挙げた「お歯黒」。その昔「お歯黒」という風習は日本では「そうしたほうが女性の美しさを引き立てるから」という理由から好まれていたけれど、しかし西洋からやってきた人々は美しいとは思わなかった。「歯を黒く染めて、女性を最大限に醜く見えるよう演出している」と西洋人は捉え、この風習を「遅れた人種の忌々しい風習」と流布した。そう、これぞまさに差別である。
AIによる「特定の文化圏の価値観に基づいてチューニングする」という行為は、本質的にはこの差別と何ら変わりない。だからダメなのだ。これだけ書いても、これがダメである理由を理解できないなら、その残念な道徳観を鍛え直すべく子供向けの道徳的な絵本でも読みなおしたほうが良い。冗談ではなく、真剣にそう思っている。
絵本の話はさておき。再びチューニングに話を戻すと……。
アメリカのほうで「顔認識AIがはらむ重大な人道的リスク」の議論が交わされる中、かなり高いレベルで危険視されていたのが、この「チューニング」の問題だ。アメリカ式の価値観で世界中の「数多のデータ」をチューニングするべきではないと識者たちは警告した。
アメリカ式の価値観でチューニングされたAIが、マオリ族の男性が演じるハカを見た場合。それは「怒り」か「舌を出していることから）ジョーク」の感情で埋め尽くされた結果になりそうだ。が、それは実態に即していると言えるのか？ もしその舞踏が怒りで満ちたものなら、なぜ賓客の前でハカを踊るのだろう？？（※ニュージーランドのオールブラックスの印象から「ハカ」＝「闘争前の鼓舞の踊り」とされがちだが。ハカには「祝福」の側面もある。また、ダンスの型によって意味も違ってくるようだ。祭儀に捧げられるものや死者への弔い、誕生日祝いなど、必ずしも「威嚇」「鼓舞」が目的ではない……らしい。オセアニア地域の文化には詳しくないのでこれ以上のことは言えない）
つまりその表情にある「本質」は、チューニングによって見落とされるようになる。自分にはこれが健全であるとは到底思えない。文化的ルーツの違いによる表情の差は大きく、そして個々人の生育環境もとい性格の違いからくる表情の差も大きい。それなのに、全てを一括りにして「笑顔」だの「怒り」だの「悲しみ」だのと決めつけていいのか？ 本当にいいのか？
そんなこんなーで、顔認識AIの問題は本当に山積みで、ひとつひとつの問題が重たい。中でも「顔認識AIとは、つまり国民を監視する行為であり、それにより冤罪が生まれる可能性もある……――というか、既に何件も生まれてしまった（尚、顔認識AIによる監視の問題点については『Person of Interest』というSFドラマが本当に分かりやすく解説しているので、AIに関わる全ての人にこのドラマは見てほしい）」という重大すぎる問題は大きな議論を呼び、結果、アメリカの幾つかの州では条例により（行政の）顔認識AIの利用が禁止されることとなった。
また「顔認識AIは黒人を正しく見分けられず、ゴリラと誤認した」という差別というしかない現象も発生しており、この問題を引き起こしたGoogleが謝罪に追われるという騒動も2015年に起きた。８年前よ。分かる？
つまり、もうアメリカのほうでは「顔認識AIの何が問題なのか」の結論が出ている。新たにこの分野の開発を進めているアホは「先進国」では少ない。EUのほうでも着々と規制強化に向けた議論が進められている。
反対に、開発を進めている国といえば、中国（自国民の監視、東トルキスタン／ウイグル人の弾圧など）、ロシア（言わずもがな）、UAE（女性の人権抑圧、カショギ氏暗殺事件、王妃／王女の亡命など）、イスラエル（パレスチナ問題：入植／不法占拠、アラブ系パレスチナ人への弾圧、繰り返される民間人殺害など）といったところか。このような国々とは肩を並べたくはないものである。
それなのに、一部の日本人はキャッキャッと「手垢の少ない分野」を開拓すべく勤しんでいるわけだ。手垢が付いていないのは、自由を重んじる国に生きるまともな人間は避けて通る危険極まりない分野だからだということにも気付かず……。
それに、そもそも「表情」や「感情」の情報って、マーケティングに本当に必要なものですか？ 重たい社会的責任というリスクを背負ってまで展開する価値のあるサービスですか？
クッキーに関する個人情報ですら取り沙汰されている昨今、それよりもより深くべったりと個人情報と密接している「顔認識」技術、日本でも見直すべき時が来ているのでは？
|
| AIが人の感情を推測するって？感情分析技術の最前線 | NHK | ビジネス特集 |
こんな記事を公共放送局が書いている時点でもう期待なんぞできないか。ハハッ！
2023/09/06追記:
どうもアメリカの方で動きがあるらしい。ロビイストが奮闘しているとかで、顔認識AIの法規制議論が「頓挫」しかけているそうだ。なんてこったい！！
そのお陰で、今後はこの分野の開発が各所で進められる展開となりそうだ。しかし、かたやEUのほうではかなり厳しい規制が設けられようとしている。この先、どうなることかね。できればEUの良識と強固な権利意識に勝ってもらいたいが。
更なる追記と、どうでもいい話：2023/07/17
こんなものを目にしてしまって、そして怒り心頭になってから数日。未だにイライラしてるし胃がメチャクチャ痛いし、苦痛すぎる。かといって周囲に当たり散らすわけにもいかないので表向きは平常心で振舞っているが、胃がイライラでムカムカし続けて笑顔が引き攣るうえに、溜息が止まらない。自分が思っていた以上に、精神的にダメージを受けていたようだ。
自分でさえこうなのだから、もっとメンタルが弱ってる人だったら耐えられんでしょ。はぁ～。
そして昨日ぐらいから、フッと気を抜くと頭の中にレオタード姿のいとうあさこが現れるようになった。「浅倉南、39歳。なんか今、すっごくイライラする！」と言いながら、新体操のリボンをブン回し始めているいとうあさこの幻影が頭の中をよぎる。――ストレス許容限界の閾値を突破しかけてんのかもしれねぇ。
猫をモフモフしながら、なんとか耐え忍ばなければ。ぎぇーー。
＋＋＋
更なる余談。無性別的な振る舞いっつーと、日本だと「Xジェンダー」って言葉のほうが浸透してるけど、自分が敢えてそう名乗らないのにはワケがあって。一番の理由はこの「Xジェンダー」って言葉、日本でしか通じないからです。
あと、二番目の理由は「X」ってX JAPANのほうが頭の中に出て来ちゃうから。「くーれないーに……」になっちゃう。笑っちゃうから、だめ。名乗れない。
３番目の理由は、「Agender」の「A」って、明確に「否定する」ニュアンスがあるから。男女に縛られるジェンダー観を否定したい、なので「Agender」って積極的に名乗るようにしておるのだ。
たった一文字、違うだけ。それでも、そこに宿る意味や信念は変わってくる。だからこそ言葉の取り扱いって注意深くしないといけないって思う。
