TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼
【遺伝子・倫理】ゲノム編集して妊娠、禁止へ デザイナーベビー懸念[12/04]
【福一/処理水】トリチウム水「30年かけ徐々に放出」東電が手順の素案まとめる【一部はストロンチウム90が放出基準値の20000倍】
【遺伝学】「優性・劣性」から「顕性・潜性」への変更に専門家から異論［12/13］
【米空軍】Ｆ３５に極超音速ミサイル装備を計画 迎撃はほぼ不可能[05/12]
【新型コロナ】ＢＣＧワクチン“予防効果なし” イスラエル研究グループの研究結果 [しじみ★]
【宇宙】気球で成層圏にチョーク粉を散布し地球温暖化を食い止める「太陽光遮断実験」が進行…失敗すればオゾン層破壊コースへ［08/16］
【脳科学】「色が聞こえる」「時間を見ることができる」など共感覚はなぜ起こるのか？［03/08］
【原子力機構】老朽化した79の原子力関連施設 解体に２兆円近くと試算［12/26］
【栄養学】牛肉だけを食べて人は生き続けることができるのか？[12/01]
【環境】マイクロプラスチック 調査した河川の９割で検出 東京理科大学と愛媛大学の研究グループ［11/25］
【人工知能】「AI裁判官」は全然公平ではなかった 人種差別やミス連発で人間以下 人工知能裁判のお粗末な実態
- 1 ：2018/01/29 〜 最終レス ：2018/04/18
- ◆「AI裁判官」は全然公平ではなかった！ 差別やミス連発で人間以下… 人工知能裁判のお粗末な実態
アメリカの一部の州では、裁判でコンピュータアルゴリズムが使われている。
刑務所へ行くか執行猶予がつくか、懲役は何年か、保釈をするかしないか、コンピュータが計算したリスクスコアが使われているのだ。
だが今月17日の「Science News」によると、その判定アルゴリズムが本当に公平なのかどうか、当のアメリカで大きな議論になっているという。
■COMPASとは
有罪の被告を刑務所に入れるか否か、保釈申請を認めるか否かなどを裁判で決めるとき、裁判官や陪審員たちは被告の家族や友人、財産の状況から過去の犯罪歴といった大量の資料に目を通して判決を出すことが求められる。
だが、アメリカのいくつかの州ではこの過程をコンピュータアルゴリズムに任せている。
アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え、家族の犯罪歴などから再犯や犯罪発生のリスクスコアを判定し、保釈・判決・仮釈放などを決定するのだという。
アルゴリズムを開発したのは国家機関ではなく、民間企業だ。
例えばウィスコンシン州で使われる「COMPAS」はNorthpointe社（現在はequivant社）が開発したもので、どのように判定が行われているのかの詳細は不明だ。
このブラックボックスが本当に公平なのかは疑問が多く、白人より黒人のほうがリスクを高く判定されているという指摘もあった。
過去には裁判での使用は不適切であるとの訴訟も起きている。
そこで、米国ダートマス大学のコンピュータサイエンス研究者であるJulia Dressel氏とHany Farid氏は、COMPASと人間の予測のどちらが正しいか検証を行った。
COMPASで評価されたフロリダ州の被告人1000人を無作為に抽出し、年齢や性別、家族構成、逮捕後から2年間の逮捕情報などの情報をデータベース化した。
そして、クラウドソーシングサイトで集めたボランティア400人にそれぞれ被告50人分のデータを渡し、2年後までに再犯するかを予測させた。
■驚きの結果
結果、ボランティアの予測精度はCOMPAS（約65％）とほぼ同じ（63〜67％）であった。
また、人間もCOMPASと同様の人種差別的な誤った推測もしていることが明らかとなった。
予測の誤りを検討したところ、白人の被告では再犯しないと予測されたものの再犯したという間違いが多く、黒人の被告では再犯すると予測されたが実際には再犯していないという間違いが多かったのだ。
また、COMPASに対抗する単純なアルゴリズムを独自に作成し、COMPASと同じ程度の精度で再犯を予測することに成功した。
この結果をまとめた論文は今月17日付で学術誌「Science Advances」に掲載された。
COMPASは人間とほぼ同程度の予測精度を発揮したものの、機械判定に期待される公平さにはいささか欠けている。
判定における透明性にも疑問は多く、一部では基礎的なデータの更新がされていなかったなどの問題も発覚しており、COMPAS利用の難しさが示されている。
リスク判定のアルゴリズムは裁判のみならず、ローンの承認、教師の評価、そして児童虐待発生のリスク判定など幅広く使われつつある。
裁判や人事評価にアルゴリズムを使うことは、評価者の偏見や思い込みを排除して判定を行う大いなる助けになるだろう。
だが、使用しているアルゴリズムが最新のデータに基づくか、適切な判断を下しているかどうかは常に監視していなければならない。
AIを活用する社会はもうすぐ側まで来ているのかもしれないが、それを適切に使っていくにはやはり人間の介入が不可欠ということだろう。
TOCANA 2018/01/29
http://tocana.jp/2018/01/post_15729_entry_2.html
- 2 ：
- 長期受刑者の仮釈放申請なんかは裁判官も
「わからねぇ〜」
だろうからなぁ。
- 3 ：
- 関連スレ
【事故ですか自○ですか】神奈川県警が全国初のＡＩ導入へ！ 犯罪の発生予測で未然防止
https://asahi.2ch.sc/test/read.cgi/newsplus/1517178775/
- 4 ：
- 統計で算出させてるからや
- 5 ：
- 学習した過去の判例通りだったりw
- 6 ：
- という洗脳をしたいらしいなｗ
法律ゴロはｗ
- 7 ：
- 将棋や囲碁もつい最近までそうやって馬鹿にしてたんだよ
- 8 ：
- 人間と同じなら完璧だろ、AIは未来予知能力じゃねーよ
- 9 ：
- ソースがトカナって時点でなおさら
信用できない結果が得られたな
- 10 ：
- ＡＩでもなんでもネェな
ルールに則った判断を、人間がプログラムしたんじゃ意味がねェだろう
- 11 ：
- アルゴリズムがおかしい
- 12 ：
- さすがに今現在のAI技術でまともな裁判ができると思ってる奴なんかいねえよ！
- 13 ：
- でも日本の裁判官よりはマシだろ
- 14 ：
- コンピュータの下した判断が中立であって人間の判断がブラックボックスで偏っている
の間違いじゃないのｗ
- 15 ：
- つまりＡＩって過去の判例から画一的な審判はできるけど
情状酌量ができないってことでしょ
- 16 ：
- 100年後にこの話を聞いた人類は大笑いするのであった笑
- 17 ：
- (´･ω･`)人種差別は正しいとは考えないの？
- 18 ：
- >>4
統計だけでは簡単には出てこない。
多分偏見に近いようなコードが存在する。
日本の街金の信用算定プログラムでもそんな感じの集積してた、
- 19 ：
- そうかチョン大学の法学部卒は今年害無省に50人行く
司法、検察にもな
恐ろしいチョン支配下の日本
- 20 ：
- 統計的にある人種の方が犯罪率が高い再犯率が高い
だからそれを判断に反映させる
そういう仕組みだった時
これは差別になるのかどうなのか
まあ人種を判断材料にしなきゃいいはなしか
じゃあ場所を判断材料にしたとき
場所によって人種分布に偏りがある場合どうするか
- 21 ：
- >>17
いやさ、人種差別的に予測して外したってのがこの話じゃんすか。
- 22 ：
- 自分と同じように「他人にもかけがえのない人生がある」ということ
- 23 ：
- >>7
だから？
裁判は囲碁や将棋のような簡単な勝ち負けはないよ。
- 24 ：
- 逆に「誰を出世させるか」についてペーターの法則っつーのがですね
- 25 ：
- 間違いを素直に学習するだけすごいだろ
囲碁将棋を見ろよ
- 26 ：
- コンピュータ様の決定は絶対
- 27 ：
- ＞アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え
入力事項に人種があるなら、出力する結果に人種が影響するに決まってるな・・・
最初から分かり切った話ｗｗ
- 28 ：
- MicrosoftのAIもGoogleのAIもポリコレが発狂しそうな仕上がりに 笑
- 29 ：
- 人種差別連呼するカス共が頭おかしいという証左でしかないわな。
- 30 ：
- >>28
お前さ、記事読んでないだろｗまぬけすぎるぞｗ
- 31 ：
- あいというなのあるごなの
- 32 ：
- >>30
なぜ記事の内容を書き込んだと思った？ｗまぬけすぎるぞｗ
- 33 ：
- お、おう・・
- 34 ：
- >>23
勝
訴
- 35 ：
- ＡＩって学習型コンピューターでしょ
学習した結果なんでしょうｗ
- 36 ：
- >>35
人間の脳とは完全に異なる似ても似つかない代物だからね
- 37 ：
- 罪を憎んで人を憎まずってやっぱ大岡越前は良いこと言ったわ
- 38 ：
- 逆にすごい
そして嘘くさいと思ったらソースがゴミだった
R
- 39 ：
- Aiって言っても、30年前からある概念だしな
- 40 ：
- 日本の裁判なら完璧な答えをAIは出すだろ
なんせ、過去の判例を全部入力していれば、近い答えを出す。
- 41 ：
- >>32
> なぜ記事の内容を書き込んだと思った？ｗまぬけすぎるぞｗ
はあ？この記事のスレで書いておいて何言ってるの？お前みたいなのを恥の上塗りというｗ
人のまねをして同じ言い方するとか頭悪すぎと言うか恥ずかしすぎるんだがｗ
- 42 ：
- これまでの判決が、白人不利黒人有利に出されているだけやろな。
完全に公平にしたら、これまでに比べたら白人有利黒人不利に見えるだけ。
- 43 ：
- ずるい人間に都合がいいプログラミングをされたaiは
どういうことになるの？彼らの悪意や矛盾を加速させるの？
この世は滅んぶ？
- 44 ：
- だからAIはダメ！みたいなこと言わなきゃ別にいいけど
そら発展途上の技術だからな
これから学ばせてくしかないでしょ
逆に相場感覚があることが恐ろしいぐらいだが
もうそこまできてんのかと
- 45 ：
- >>27
最初から人種入れなきゃ良いのにな
白人の方が厳しく裁かれてるという結果が出たら無視するだろうし
- 46 ：
- 教育の仕方が悪かっただけ
- 47 ：
- 偏見差別以前に判例をひっくり返せないだろ
- 48 ：
- AI失業しそうな法曹関係者、必死のネガキャンｗ
- 49 ：
- >>45
そういうことだよね
人種を入力しないで出した結果と比較するべきじゃ無いのかな
- 50 ：
- 人種差別したら出来損ないって
結局人間と同じレッテル貼ってる時点でww
- 51 ：
- 学習の段階でAIが出した答えを採点するのは人間なんでしょう？
- 52 ：
- 例えば、この一言でカッときたとか
脅迫されてたとか性的不能とか
そういう情状を入力して比較するのが判例の筋では？
- 53 ：
- だからTOCANAソースで科学ニュースにスレ立てんなよ。
- 54 ：
- コリアンの再犯率は？
- 55 ：
- >>4
>>18
どーせディープラーニング(笑)なんじゃない？
アレは予測は出来るけどその根拠は示せないってシロモノだから。
明日の昼は晴れるか？みたいな話なら良いけど、裁判や診療みたいなクリティカルミッションに使うなら、根拠や妥当性の説明も求められるから、ディープラーニングの弱点が良く分かるね。
…でもトカナスレかよw
- 56 ：
- 人間以下じゃなくて人間と同等という結果じゃん
だったらAIにやらせた方が早い
- 57 ：
- 人間と同じ精度の判断ができるなら十分じゃね
裁判官養うコスト削減できるやん
- 58 ：
- >>45
人種によって明確な差が出るパラメータがあるだろうから
外すことはできないんじゃないかな
- 59 ：
- AIならミスのデータを蓄積して
自分で自分を修正できるんじゃないの？
- 60 ：
- >>59
AI自身は何が間違ってるかわからないので
そういう良質で大量の間違いデータを学習させないとダメだと思う。
機械学習は意図しない結果を訂正するのはプログラム方式に比べて大変なんじゃないかなー
- 61 ：
- AIは過去の人間の判例を学習してるだけだから当然人間の悪い判決通りに答えを出すわな。
- 62 ：
- 人間の判定を学習したなら同じになって当然だし、
ルールベースなら公平じゃないのはルールを決めた人のせい。
AIの問題ではなく、人の問題だな。
- 63 ：
- クラウドで予測入力みたいなもんだろ
- 64 ：
- 投機的判決と呼ぼう
- 65 ：
- 人間による無意識の差別を
AIで学習して取り込んでしまい
酷いことになるリスクもあるな
Googleが
黒人の顔を何度認識させても
ゴリラと認識するのを防げないような
- 66 ：
- そもそもAIのアルゴリズムに白人主義がプログラムされているという
疑いをなぜモタないのか
- 67 ：
- 人間がそもそも偏見偏向の塊ですし
よく使う客観性という概念はあくまで第三者の「主観」だから必ずどちらかの立場に立っている
厳密にいえば公平公正なんて何処にも存在しない
AIを人間の贋作と捉えるなら成功かもね
人間は自分たちに都合のいいように教育を施すのだからAIも自己学習に拘らず教育すればいいよ
どちらにせよ偉い人や多数派の主義主張に合わなければ社会においてそれは非である
いちいち命令せず忖度させるには教育矯正が必要なのは人間も機械も一緒
自分たちの枠からはみ出る人間もAIも人間は存在を許さない
- 68 ：
- これAIなのか？単なる評価アルゴリズムじゃないのか
アルゴリズムをブラックボックス化してる時点でAIの偏見じゃなくて設計者の意図が含まれてるだろ
- 69 ：
- ただのアルゴリズムだろ
よわよわAI
- 70 ：
- 時間を無駄にした……
スレタイにTOCANAって入れといてくれよ
- 71 ：
- これ言いがかりだろ！けんきゅうほうほうにもんだいがある。
- 72 ：
- >>1
科学板にオカルトTOCANAでスレ立てんなや
- 73 ：
- 判決は出さんでもよろしい。大量の資料作りとその管理だけ任せとけ
- 74 ：
- TOCANAソースってことは嘘か
- 75 ：
- 人工知能の出した予測と、ボランティアの予測と、実際の追跡調査とで比較。
一応はまっとうな検証方法に見えるね。
逆に言えば一般人の陪審員くらいの予測精度を発揮してる、とも言えるがな。
他の分野の「人工知能」よりずっと使い物になるレベルじゃないか。
- 76 ：
- 学習の結果特定の塊を差別対象と判断するのはしょうがない。機械でも人間でも同じ。
社会人マナー＆タブー＆忖度データベースが必要。
- 77 ：
- 人間の裁判官と同じような判断をして、かつ同じような過ちも犯すのだから
この先、人間の裁判官は必要ないわけだ
- 78 ：
- それでも、アホな東大法学部卒のパヨク馬鹿連中よりはマシ
- 79 ：
- 差別は人間の本能なのだ
- 80 ：
- 人が行う裁判だって全然公平じゃないだろ。
- 81 ：
- 日本の裁判官よりは公平だろうな
- 82 ：
- つまり、人権保護団体が言う人種差別は差別ではないということかｗ
- 83 ：
- >>77
頭いいですね
人間は間違う事ができるから新しい発見や発明ができる
ロボットは間違う事ができないから同じ仕事しかできない
と言われていたのが
AIも間違う事ができるから新しい発見や発明ができる
と来るわけだ
こりゃ人間の出る幕はなくなるなｗ
- 84 ：
- ニューロマシン型の人工知能（ＡＩ）の得意なアルゴリズムは動物的な全体の流れ、傾向分析だ。
一方で信用とか法律は禁止則だ。
信用や法律は、論理で、してはならないことの体系を網羅している。
現代のニューロマシン型のアルゴリズムに盲従すれば、
信用を踏みにじり、違法行為を乱発するのは当然だ。
だから、売れ筋商品の分析アルゴリズムが、なじみ客への嫌がらせなどを推論して、
店の信用を崩壊させたり、違法行為で会社を倒産させるのは、当然の結果だ。
一般に経営者は結果責任だから、そのようなアルゴリズムを採用した責任は経営者にある。
- 85 ：
- >だから、売れ筋商品の分析アルゴリズムが、なじみ客への嫌がらせなどを推論して、
>店の信用を崩壊させたり、違法行為で会社を倒産させるのは、当然の結果だ。
支離滅裂の文章で笑えるｗ
統合失調症の患者っぽいｗ
少なくとも現時点でAIの方が人間より数倍優秀だわ
- 86 ：
- >>1
AIってどうやっても
創った人に似るだろ
学習させる内容を選別するのは作者なんだから
- 87 ：
- では、もう少し平易に説明しよう。
動物は法律を理解していない。
目の前に餌があれば、所有権とか関係なしに奪う。
ニューロマシンは、まだ、このような動物のアルゴリズムだ。
だから、自己中心的で猪突進型の行動を推論しやすい。
一方で信用とは、相手も自分も平等と考えて、
相手の自己中心と自分の自己中心を、
自分の中で比較して作られる「公平」という規則に従って、
自制することだ。
生きるか死ぬかの熾烈な競争をしている企業が、
そのようなアルゴリズムをプログラムしているだろうか？
そのようなアルゴリズムが優位に立つためには、
きちんと法律が実行されていることが必要だが、
日本は、きちんと道理が通っているような社会か？
- 88 ：
- トカナでスレ立てすんなって
- 89 ：
- ある医師の子供が
「医者はＡＩに取って代わる」と言い放ち
理工系の道に進んだということが
N潟県の医師の間でちょっと話題になった
（この20年間の「電子カルテ」のお粗末さを見る限り、
営利企業に任せる限りAI医師は実用レベルにならない）
- 90 ：
- >>87
道理が通ってる社会だよ
- 91 ：
- 負けて覚える相撲かな
- 92 ：
- >動物は法律を理解していない。
>目の前に餌があれば、所有権とか関係なしに奪う。
>ニューロマシンは、まだ、このような動物のアルゴリズムだ。
あまりにも知識がなさ過ぎる。
狼のウルフパックや蜂の真社会性を知らないのか。
動物の方がよっぽど人間より高度な社会を実現しとるわ。
- 93 ：
- 日本の裁判官はもっと酷いんじゃないの？
特に地裁
- 94 ：
- ボランティアいらなくなるならそれだけでも十分な成果だと思うんだが。
ボランティアに長時間の高速を強いるような面談とかいったことも、
ＡＩなら同時に複数人対処できるし、質問に返答した時の声のトーンや
表情とかから多方向から判断できる。
なんなら脳波測定やｆＭＲＩも同時にやってみればいい。
脳波測定とｆＭＲＩを同時にしろとは言わないけどw
- 95 ：
- AIが極右裁判官とは如何に
- 96 ：
- >>1
これってAIなのか？
- 97 ：
- >>92
ニューロマシンが動物程度、という意見にはアホか、としか思わんが、
蜂とかの社会性って、別に法律に類するものに基づいてるわけじゃ
ないから反論として不充分かと。
法律に類するものに基づいて行動する動物の例を出して反論すれば良い。
本能とかとは別の理由で社会性・自主的な行動の制限がある事例ね。
類人猿の一部には法律とは呼べなくとも世代を超えて受け継がれる
タブーが行動を抑制する事例がある、とかね。
- 98 ：
- これAIとかディープラーニングみたいな学習機能使ってるって別に言ってなくない？
ブラックボックスなんでしょ？
COMPAS作った所が勝手にパラメーター設定してるだけじゃね？
- 99 ：
- 問題解決に関するディープランニングだけでなく、道徳を覚えさせないと解決出来なさそう。
人間でもいるじゃん、気遣いとか何も考えられないやつ。
うちの会社はIT系なのでそんなやつばっかだよ。
- 100 ：
- AIとか言っても、どうせ多変量解析だろ。
説明変数に人種入れないと精度が出ないし、入れたら過去の実績から
黒人不利の人種差別的なものになるし。
でもって、その差別的なのが正解という。
それだけの事だろ？
事実を認めない非科学的な人には何を言っても無駄だろうけど。
100〜のスレッドの続きを読む
【宇宙開発】「世界最強」ロケット、来月打ち上げ 積み荷は「テスラ」の最新型のスポーツカー[18/01/28]
【京大iPS論文不正】論文不正は"研究者の薄給"を放置したツケ山中伸弥所長を悩ませる予算不足[02/26]
【地球温暖化】炭素回収こそ人類を救う道、挑み続ける開拓者の20年［05/15］
【物理学】光を物質化する実験開始 - 「ブライト-ホイーラー過程」を実証へ［04/02］
【新型コロナ】新型コロナの治療薬や「BCG仮説」で気をつけたいこと [しじみ★]
【新型コロナ】世界の死亡者は1万を超える、これは数か月でSARSの13倍に迫る異例の早さ、また致命率は4.1％に【予防の徹底】
【数学】「素数」は2000年以上も未解明 [しじみ★]
【環境】上海ガニの密輸に困惑する米国、すでに野生化も [しじみ★]
【歴史】ペスト医師、奇妙な「くちばしマスク」の理由 17世紀のフランスの医師が考案
【音響学】水滴の「ぽちゃん」という音、発生の仕組みついに解明 音を消す方法も発見
--------------------
令和だョ!あきまん集合
【変態ドクター】安倍昭恵「大分旅行の全貌写真」50人の参加者と…【不要不急】
たくのみ。
５号機で一番稼げる機種９３
ゆうめいとに手を出してるやつ 伏字でさら総ぜ
Word(ワード)総合相談所 Part23
【日本が誇る名作】ぷよぷよぷよぷよ【対戦パズル】
【佐々木悠】ポケモンマスターズ127【更迭されろ】
K-1 WORLD GP総合スレ 407
伊達妄想バルセロナ 宮城県庁25
【JC】 JC全国大会を考える 【青年会議所】
savage genius（サヴィッジ・ジーニアス） 4
フレッシュ屋外大撮影会 【私服専用】Part.28(IP無し)
全国で最も交通マナーが悪い県 １位香川 7位大阪 東京は意外にも42位 [324064431]
【無課金】FINAL FANTASY Record Keeper Lv2755【FFRK】
【癌細胞】おき(*^◯^*)らく【ニキカス】5
日本のま〜んって世界的な功績をあげたことないよね
火葬場の思い出
【悲報】慶應終わる、早稲田一強へ
新・香港映画ってどうなの？PART４
TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼
