注目記事!

android ネタ

【珍事】息子の性器に発疹が出たため写真を撮影し医者に送付→GoogleのAIが検知し警察に通報し事件に

1: テラ速の民 2022/08/24(水) 16:41:34.60 ID:aQLkWUBA0● BE:538181134-PLT(16931)
sssp://img.5ch.net/ico/nida.gif
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。

アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。

親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。

マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。

マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。

それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。

マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。

GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像(特に自動ポルノ)を入れるとAIが検知し、
Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。
クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、
サービスの切り分けも必要だということだ。

https://gogotsu.com/archives/68334

2: テラ速の民 2022/08/24(水) 16:42:39.25 ID:g2j99kxD0
無能AI
74: テラ速の民 2022/08/24(水) 17:14:55.27 ID:12Ut64Y+0
>>2
そもそも勝手に人のデータスキャンするのはどうなんだ?
アップロードする際に再三「覗きますよ」って確認すべきだろ
しかもGoogleマップで空からの映像あるけど露天風呂とか撮影されてるよな?
加工して表に出ないようにはしてるだろうけど一旦幼女の裸を盗撮した事には違いないよな?
納税もしてないって話聞くし独占禁止法も軽んじてるらしいしマジで『原爆』落とした国って感じだわ
164: テラ速の民 2022/08/24(水) 18:16:21.43 ID:qrw0pru90
>>74
規約に書かれてるからなぁ
読んでないの?で終わっちゃう
3: テラ速の民 2022/08/24(水) 16:43:01.40 ID:xDuTjsBM0
発疹と発信を掛けてるやん
45: テラ速の民 2022/08/24(水) 16:57:11.43 ID:IL8m3t7o0
>>3
229: テラ速の民 2022/08/24(水) 19:47:42.43 ID:qluS5H/L0
>>3
「ほっしん」な。
4: テラ速の民 2022/08/24(水) 16:43:46.32 ID:OMNzYwmV0
この写真は全部研究用じゃ…
5: テラ速の民 2022/08/24(水) 16:45:00.68 ID:d40KqlCi0
google邪悪すぎやろ
6: テラ速の民 2022/08/24(水) 16:45:43.94 ID:NJt3wyzs0
Google「いつも見てるぞ👀」
163: テラ速の民 2022/08/24(水) 18:14:54.62 ID:ennbkOrW0
>>6
見せてるのよ
7: テラ速の民 2022/08/24(水) 16:46:23.34 ID:eMhc5JBZ0
絵は?絵はいいの?
212: テラ速の民 2022/08/24(水) 19:07:34.78 ID:cmRAxMr20
>>7
ダメだよ
俺はそれでBAN食らった
286: テラ速の民 2022/08/24(水) 22:29:48.27 ID:lNEgDKkW0
>>7
グーグル検索に引っ掛かる児ポっぽい画像はなんでスルーなんやろなw
9: テラ速の民 2022/08/24(水) 16:46:37.47 ID:lWkdT8hX0
クラウドには暗号化したファイルしか
アップしない
341: テラ速の民 2022/08/25(木) 03:50:41.27 ID:yBcKwav90
>>9
Googleは解析しにいくぞ
偽装ファイルも解析されてたまあ古典的なやつだろうが
10: テラ速の民 2022/08/24(水) 16:46:41.68 ID:Y9bpRd4j0
俺も野良猫や野鳥の写真撮ってパソコンに保存してたら、勝手に共有スペースか何かに
移動させられてて、知らん人に写真持っていかれてたのずっと気付かなかった。
恐ろしい機能だな。
11: テラ速の民 2022/08/24(水) 16:47:24.83 ID:7frppSAp0
>アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、

心が汚れてるせいかしばらくどっちの息子か理解出来なかった

63: テラ速の民 2022/08/24(水) 17:11:11.93 ID:Q7wfX9qs0
>>11
どんだけ汚れてんだよw
159: テラ速の民 2022/08/24(水) 18:10:46.52 ID:ha85BYFi0
>>11
息子の息子の性器か
216: テラ速の民 2022/08/24(水) 19:13:29.98 ID:sQaPt/rf0
>>11
むしろ、本人のならセーフなんだが
12: テラ速の民 2022/08/24(水) 16:47:57.90 ID:Cok2hOkN0
これはひどい
13: テラ速の民 2022/08/24(水) 16:48:00.25 ID:eBIrPE0Y0
個人のスペースまで監視されてんのか
14: テラ速の民 2022/08/24(水) 16:48:28.66 ID:YWW96yA10
え?Googleフォトってそんな機能あんの?
息子が裸で自宅のプール入ってる画像とかたんまりあるけどそういうのもポルノ判定されたりする?
27: テラ速の民 2022/08/24(水) 16:52:25.65 ID:Vk2BiT3u0
>>14
リアルに危ないってことだね
既に監視対象フラグは立ってて、他人に送ったと判断されたら即通報かも
15: テラ速の民 2022/08/24(水) 16:48:38.96 ID:iUXxjzDf0
チン事
16: テラ速の民 2022/08/24(水) 16:48:59.89 ID:d40KqlCi0
つーかなんで人間が確認して臨機応変に解除出来ないんだよほんと狂ってるな
こんな企業に支配されたらセカイノオワリだわ
53: テラ速の民 2022/08/24(水) 17:01:35.57 ID:jL2wGUh30
>>16
異議申し立て2回もやってるのに確認もしてないのかね?
グーグル社員って仕事楽そう
177: テラ速の民 2022/08/24(水) 18:29:25.39 ID:xzpiw2+70
>>53
謝ったら裁判で確実に負けるんだっけ?
326: テラ速の民 2022/08/25(木) 00:49:58.73 ID:8CN7+g0+0
>>177
謝らなくても負ける案件だと思うんだが
287: テラ速の民 2022/08/24(水) 22:30:26.07 ID:lNEgDKkW0
>>16
行き着くところはディストピアだろね
336: テラ速の民 2022/08/25(木) 01:55:48.81 ID:ycmOtH0s0
>>16
狂ってない
Googlephotoもgmailも無料サービス
臨機応変な対応とやを全世界でやったら莫大なコストがかかる

そこにコストをかけないから利益だせるわけで
ラインだって電話問い合わせ窓口なんてないしな
いちいち人間が対応してくれるなんて甘えたことやってるから日本のITは世界展開出来ない

349: テラ速の民 2022/08/25(木) 06:18:37.13 ID:prrkwdg30
>>336
違法性が無いことぐらい誰が見てもすぐにわかる事なんだから、パッと見てすぐロック解除すればいいだけの話
17: テラ速の民 2022/08/24(水) 16:49:15.14 ID:BzisjzEX0
自動でアップする機能怖すぎだろ。つか検閲やん
69: テラ速の民 2022/08/24(水) 17:12:36.04 ID:ueXoF4180
>>17
オフにしとけば良いだけ
173: テラ速の民 2022/08/24(水) 18:25:21.07 ID:S8CuSYdh0
>>69
時間経つと勝手にONになるぞ
191: テラ速の民 2022/08/24(水) 18:41:04.41 ID:ueXoF4180
>>173
なったことないけど...
機種によって違ったりするのかねえ
怖い怖い
18: テラ速の民 2022/08/24(水) 16:49:35.79 ID:QgobsFyn0
Googleとしてはこれを見逃すとこれから病気の診断のためだからという理由で児ポを保存されてしまうかもしれないから
私企業としては仕方ない判断だと思う
31: テラ速の民 2022/08/24(水) 16:53:27.78 ID:BphBMdUk0
>>18
正当な理由が確認できるのにそれを怠るのは企業の怠慢だと思うけどな
40: テラ速の民 2022/08/24(水) 16:56:22.51 ID:pfpudPfz0
>>31
いちいち確認するのめんどくさいじゃん
94: テラ速の民 2022/08/24(水) 17:24:56.76 ID:SmjkB3rx0
>>40
正にそれを怠慢という
19: テラ速の民 2022/08/24(水) 16:49:51.14 ID:nrxPj2f+0
てゆうか中国馬鹿にできないぐらい監視されとるやんけwww
20: テラ速の民 2022/08/24(水) 16:49:54.73 ID:rYrW2/QZ0
自動で通報て
24: テラ速の民 2022/08/24(水) 16:50:41.75 ID:UfIbKqak0
AIは使い物にならないのが証明された
25: テラ速の民 2022/08/24(水) 16:50:43.69 ID:QgobsFyn0
自動バックアップ機能を切ればいいだけだよ
便利に利用しといて不都合が出たときだけ文句言うのは違う
26: テラ速の民 2022/08/24(水) 16:51:45.48 ID:hjQnCRtq0
なんでGoogleのAIはこどものちんこだって判別できるん?
そういうデータ持ってんのか??
30: テラ速の民 2022/08/24(水) 16:53:05.70 ID:ZZlLEpRN0
>>26
AIに覚えさせる仕事がある
42: テラ速の民 2022/08/24(水) 16:56:52.84 ID:pfpudPfz0
>>30
俺も覚えさせる仕事したいです
47: テラ速の民 2022/08/24(水) 16:58:05.33 ID:IuAASU5h0
>>42
心を病むらしいぞ、この前ニュースになってた
41: テラ速の民 2022/08/24(水) 16:56:44.84 ID:mVz8YmIQ0
Google「私がルールだ」
58: テラ速の民 2022/08/24(水) 17:04:42.04 ID:219kul900
Googleフォトてみんな良く知らずに使ってアップロードしちゃってんのかね
64: テラ速の民 2022/08/24(水) 17:11:38.48 ID:glt6Cdjc0
グーグルはAIが融通が利かないことを考慮できない
67: テラ速の民 2022/08/24(水) 17:12:26.00 ID:OEZrk8Hc0
まさに自動ポルノってか

引用元: "https://hayabusa9.5ch.net/test/read.cgi/news/1661326894/"

PR

注目記事!!

-android, ネタ