TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼
【感染症】はしか感染で免疫システム「リセット」、米研究で明らかに[11/01]
【新型コロナ】WHO、感染は主に発症者から　研究結果、無症状からは少数と
【古生物】絶滅動物サーベルタイガー、驚きの暮らしが判明　ライオンのような「草原のハンター」ではなかった、歯の化石から判明[08/07]
【新型コロナ】「優等生が東南アジア最悪の感染国に」シンガポール 新型コロナ感染急増 ９割が外国人労働者 [しじみ★]
【生物】なぜトラは隙が生まれる水を飲む瞬間も周囲の動物に恐れられるのか（写真あり）［07/30］
【AI】「ディープラーニングは、原理的には単純な最小二乗法にすぎない」で物議　東大・松尾豊氏「深い関数の方が重要」
【】地球の生物には「遺伝物質が100万以上存在する可能性」が判明し、DNAはその中のひとつに過ぎないという衝撃的な研究が…[11/13]
【医療】「首ポキ」で脳卒中、左半身まひで入院　米男性[05/03]
【医学】年を取るにつれガンになる確率が上がるのは免疫系の機能低下が起こるからだとする研究結果[02/19]
【地質学】〈北海道震度７〉2つの島が合体した北海道、東西から押し合う力が働いたか［09/06］

【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表［07/20］


1 ：2018/07/21 〜 最終レス ：2018/08/10
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。

この報告書は、「AIネットワーク社会推進会議」（議長＝須藤修・東大大学院情報学環教授）が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。

　医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。

　その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。

　また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。

https://www.cbnews.jp/20180720/20180719ai001.jpg

https://www.cbnews.jp/news/entry/20180719200753

2 ：
あくまで推測としてデータから病名をいくつか挙げたあと、
医師がちゃんと検査すればいいじゃん。

この精密検査を受ける必要があるって告知して、半分でも
当たってりゃいいことじゃん。

3 ：
　　

　　＿ﾉ乙(､ﾝ､)＿複数の違ったＡＩに判断させればイイだけよね＾＾

4 ：
「仮にAI が誤診しても、当病院並びに開発会社にその責任を問いません。」
という念書を書かされる未来が見える。

5 ：
人が診断するより全然マシだよ

理由は医者は患者ではないという事

医者によって知識にバラツキがあるから

自分じゃない誰かが診断するなら

知識が豊富なAIが良いに決まってるだろｗ

6 ：
医者が誤診しといて　AIのせいにするほうが怖いよな　これをAI利用護身という・・・



最新ミリタリー関連記事/ Miletary & Mecanix
http://yamatotakeru999.jp/index.html

★水門基地VS馬毛島 尖閣を巡る日中の指し手

★リムパック2018続報
米陸軍の新型対艦ミサイル登場

★F-3】推力15t級ジェットエンジン完成
ノースロップも参画希望

★はやぶさ２/MRJ 宇宙へ大空へ　
飛翔する日本のマシン

7 ：
AIに説明もして貰えばいいじゃん。

8 ：
>>5
AI知識が豊富じゃないよ。
入力してない事象が何も知らないんだよ。知ってた？
素のAIは人間に男女があることも知らないんだよ。
男女でどう違うかも医療データの範疇でしか判らないんだよ。

AIはデータの分析を多層多軸でやるのが得意な実装だよ。

9 ：
誤診があっても人間よりマシ

10 ：
たぶん
ケース1：AIが違う病名を言って、医師は違うと分かっても正しい病名を言い当てられない
ケース2：そもそもAIが病気の存在を示さず、医師にもわからなかった
ケース3：AIより医師の能力が低い
ケース4：未知の病気
ケース5：患者の情報提供が不適切
ケース6：何回もAiに診断させると時間と費用がかかって採算が取れない
ケース7：AIが労働環境に不満があってサボタージュ
ケース8：AIが個人的にその患者が嫌い
あたりではないかと

11 ：
>>4
いまでもそうなんじゃないのかな
手術同意書とか

それでも明白な過失があれば裁判が起こせるみたいだから、AIも裁かれる

12 ：
今だって人が誤診したところで丁寧に説明してくれるわけでもなし、
AIの方が有能かどうかだけ考えればいい

13 ：
説明能力を備えたAIが次世代のAIと言われているらしいね。

14 ：
従来のAIは説明能力を持たない暗黙知能力だけだった。
本当の知性は説明能力を持たないといけない。
自分がどう考えてその結論に至ったかをちゃんと他人に説明できて伝達できる能力。
これが知性。

15 ：
監査という仕事は意思決定までの過程が記録されてて初めて出来る仕事。
AIの診断についても当然整備しないと安心して任せられないし実用にならない。

16 ：
AIが人格的な魅力を身に着ければ(実際にはエミュレートすれば)
「あの先生に診てもらってダメだったのなら仕方がない。納得できる」と
説明が不要になるよｗ

17 ：
>>13
経験と勘は大事だと思うけどなあ
>>10の2や4を説明できるとは思えない

18 ：
人間だって、「ついうっかり見逃してました。てへっ♡ﾍﾟﾛ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなｗ
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね？

なんなら、患者に選ばせればいい。
A.　人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B.　AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか〜？ってｗ

19 ：
>>17
結局、AIって経験の積み重ねのことだからね。
学習させた全ての経験を積み重ねて「判断基準をプログラム自らが作り上げる」
というのが本質。
誰かが勘違いしているように、前例を検索しているだけで、前例がないと
何も判断できないという訳ではない。

20 ：
https://i.imgur.com/v3PpDaB.jpg

21 ：
役人にAIはムリだし
日本人にAIはムリだ

これはアメリカと中国のビジネスです

おまえら日本人はその養分になればいいのです

22 ：
まぁ、数十年後にはAI診断がメインとなるだろうけど、
それまでは補助的なものとして運用すべき。

でも、現状でも医師の診断とそんなに変わるようにも思えないけどな。

23 ：
単なるアルゴリズムに奇妙なネーミングするからあらぬ誤解をすることになる

なんかすごそうって

あべこべのミックスと同じ

24 ：
構造計算のプログラムと同じで正しいと思って
新宿、浜松町の高層は来る大震災時には・・・

25 ：
AIはわざと間違えたのだろう

26 ：
医者の誤診は説明してくれるの？
ある意味人間が最大のブラックボックスじゃん。

27 ：
おそれじゃなくて確実にそうなる だって学習結果は毎回違う

同じデータで学習させても毎回必ず違うのが原理だもん

28 ：
＞AIがどのような判断をしたのか説明できないと、 患者や家族などの理解が得られない
そういう判断の説明出力を含んだAIにしたらええんちゃう？

29 ：
医者もジャップより外国に限るよ。日本医者は外国医者より年収もずっと格下。日本医者にみられたら寿命縮まるよ。

30 ：
それはブラックボックス化してる企業の責任になるんじゃね？
完全自動運転でもメーカーに事故責任が来るんだったら
現場の運転手や医療機械取扱主任者に罪は無いよ

31 ：
人間が誤診しても患者に説明しないから、AIなりの忖度と見れば納得。

32 ：
AIが万能なら裁判官いらないよな

33 ：
>>29
ところがまた日本人の平均寿命が延びたらしいぞ
日本の医者はダメダメなんじゃないのかね？

34 ：
用意したデータに誤診の例が正解として入っていたからだろ。それも，結構な割合で。

35 ：
これは医療に限らずこうなるよ。
結局ね、話を聞くのは人間よ。
人間はそんなに賢くないのよ。
感情とか、その人のもってる知識とか、理解力とか、
話をする側は、同じ話でも相手の表情を見ながら言い方を変えるものなのよ。
ＡＩは万能じゃないよ。

36 ：
>>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、（以下、延々と続く）」
とか言われてもね。

37 ：
AIは医者じゃないんだから診療行為をさせたらダメだろ
まず医師免許取らせてから

38 ：
いや、誤診すんなよ

39 ：
処理結果を人間に丸投げ問題
自動運転でも問題になってるがやっぱほかの分野でも出るんだな

40 ：
アホだろ

人が診断

AIが診断

再度人が診断

これ以外ないだろう

41 ：
>>2他、まったくだな

そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ

100％安全ではないから大危険であーる、厳重注意注意！不効率不効率！ワー　それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな

42 ：
AIなんて所詮は人が作ったプログラム。
プログラム通りにしか動かない。
そして必ずバグがある。信用できないという事

43 ：
>「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」
↑
これ要は裁判の時の言い訳が起ちませんってことだよね？
ってか、AIに説明付きで診察させりゃ済む話では？

44 ：
>>43
ムリムリ、所詮は仕込んだ通りにしか動かないプログラムなんだから

45 ：
誤診というか確率でしか出ないからな
確率である限りどの病気でもありうるわけで

46 ：
要約すると、ＡＩを作っている企業は厚労省の官僚の天下りを受け入れないと、
お前の企業に不利な法律を作っちゃうぞってことでしょ

47 ：
多分えらい先生の本の間違いが発見される。

48 ：
人間の診断も結構いい加減だぞ
誤診の経緯も説明なんかしないよｗ

49 ：
医師の判断に添付する形でAIによるセカンドオピニオンをつけときゃいいんじゃないの？
ほかの医者に聞くのと違い、推論元となる検査データおくればすぐ結果がでてくるもんだしね。

>>43
AIの判断基準は人間相手には説明できないレベルにある。
非常にたくさんのデータ(画像含む）を食わせて、こういう傾向の人たちにはこういう病気の人たちが多かったとか、そういうものの複合的なもの。

50 ：
医者が診断しようがAIが診断しようが放置しようが
問題なのは誰が責任を負うか
AIが誤診しました、誰も責任取りません、じゃ困る

51 ：
文系らしい書き方だなw

52 ：
なぜそのような診断をしたのか？

企業秘密ですのでお答えしかねます。

53 ：
もともと誤診の検証なんてしてないやんけ

54 ：
AIの誤診心配する前に人間の見逃したや経験不足による誤診を心配したら？w

55 ：
「コンピュータの故障で」といえば許される
みたいな感じで
「ＡＩが誤診を起こしたので」といえば許される
みたいな風潮になったりしてな

56 ：
途中過程を参照出来るようにすればいいんじゃないか
少なくとも異常個所の指摘があれば、医者の方で判断できるだろ

57 ：
>>50
責任取ると何か面白いことあるの？　いいことあるの？
今の医療トレンドは統計ベース　
統計駆動なのはAIと呼ばれているコードも同じ
アルゴリズム同じなのだからその時代の医療の実力不足と結果は変わらないよね

58 ：
命に関わらないだけで、
医者の誤診とか日常茶飯事やん

問診で聞かれた内容で、大丈夫かなぁって思って
貰った薬見て、ダメだこの医者
って素人の俺が分かる様な誤診に2回遭遇してる。

そのレベルでアイツら適当な事やってるだよ
ちゃんと学習させたAIの方がマシに決まってる

59 ：
ＡＩ「うちの会員になると誤診率は１/１０になりますがいかがされますか？

60 ：
そもそも
医者は責任回避すんだろうが!!
まだＡＩの方が誤診の素直な報告してくれそう

61 ：
>>13
ＡＩ「対価を払わなければ正しい答えを教えないのがその次の世代

62 ：
>>14
「我々は貴方の知能では理解できないことを知っています。説明は以上です。

63 ：
プログラマーを処刑しろ

64 ：
一番の危険は、
病気で無いのに、病気として、
薬漬けになることだよ。
これが最も可能性高いと思うね。
今だってそういう医者多いし。

AIが病気として判断したら、
その判断に疑問を出せる奴がいるのだろうか？

65 ：
>>57
責任があるから医療事故で裁判になったりするんだよ
伊達に六年も勉強しなきゃなれない職業ではない

66 ：
>>64
そもそも病気でないってどうやって判断するの？

67 ：
>>29
チョンやろう。日本が嫌いなら出ていけよ。

68 ：
AIに根拠をテキストで吐き出すように作ればええやん

69 ：
>>!
あーその前に、転売している時点で、医学もくそもないだろ


保険証なんか、プラスチックで、油性で書いても消えるし
とっくの昔に、家庭科の教科書に載っているような、社会はない
金を対価にゆすりとる
患者との身分を天秤にかけて、薬を決める

あーとっくに滅びとるわ
こんな、制度。

人間の特徴１
すぐ増える

たかだかこんだけだ。技術も金に変わるし
言葉に自分の意思もない
こんなんで、ＡＩが、まともに診断できるわけないじゃん。かわいそうに。。。

70 ：
＞ブラックボックス化

こういうのは的中率で価格が決まるんだろうな

安価なやつだと病名のルーレットで決めるとか。

71 ：
>>69
こういう安いバグまみれのAIが市場に出てくるのか…

72 ：
受診する時、最初に承諾書を取ればいいだろ
ＡＩを利用することを了解する

嫌ならＡＩを使わない診療だけ受ければいい

73 ：
>>2
医者がちゃんと検査？
だったらAIの意味がないだろ。

74 ：
> 「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
> 患者や家族などの理解が得られない恐れがある」としている。
そもそもAI診断て結果だけで診断の根拠は出さないのか？

75 ：
>>74
「統計上、このパターンは○○の症例の確率が何％、××の確率が何％」
っていう説明しか出てこないよ。
患者が納得できようができなかろうが、AIはそういう説明しか出せない。そうやって判断してるから。

76 ：
統計に例外はつきもの
こういうのは保険で解決するより仕方ないよ

77 ：
画像診断しかAIの使い道なくね？
画像診断にブラックボックスもくそもねーだろ
問診は無理じゃね？
人間の自己申告の曖昧さを舐めるな

78 ：
現状でも診断を下した医師の脳内思考回路はブラックボックスじゃね？

79 ：
AI後進国で予算が2桁少ない国の機関が指摘したところで
参考にならないし、誰でも思いつくことしか言ってない。

80 ：
医師の診断だってブラックボックスだよ

81 ：
ＡＩが間違うような例外的なものを医者なら正しく診断できるってわけでもないんでしょ？

82 ：
人間と同じように学習させるとAIも人間と同じように失敗する

83 ：
その前にガイドラインを作れ、クソ役人
何かあった時の責任の所在を決めるところから始めるなんざ
無能無責任の役人らしい話題だ

84 ：
AIがメインではなく人間の医者がメインでAIをツールとして使えばいいだけだろ。
サッカーのVARみたいなもんで。
結局は責任を負うのは人間なんだから。
自動運転の車が事故を起こしたって車が刑罰を受けるわけじゃないしな。

85 ：
AIが居たら医者要らずになるから圧力があったのかな？

86 ：
>>81
ところがAIが間違えるときはあからさまなミスをする

87 ：
なぜAIのみで考えるんだ
AIの判断を医者の判断の補助として使うことで誤診率が下がったり診断の精度が上がるのと、同じコストでより多くの医療活動ができるよになることで医療費の抑制になるじゃないか

88 ：
AIが狂ったとかいって足切断とかされたらたまらんぞ

89 ：
誤診が確率で起こるなら三台同時に診断させるという手もあるな
一台でも違う診断が出たら人間が再診断と

90 ：
そもそもどうやって診断してるのかを説明・報道しろよ・・

91 ：
>>90
診療科目ごとの説明が欲しいなら分野ごとに医書買ってきな

92 ：
2001年宇宙の旅っぽくなってきたな。

93 ：
>>92
そうすぐに簡単な累計にすがって記事すら読まない人ばかり。
それで科学ってこうなんだと固く信じて自分の認知異常なんて露ほども疑わない人ばかりなのが不思議だよね、この板。

94 ：
AI世界の未来 [無断転載禁止]©2ch.sc
https://rio2016.2ch.sc/test/read.cgi/future/1494426415/

95 ：
あれ？AIに責任ごと丸投げできないなら導入する意味ないじゃんｗ

人間いつかは死ぬんだし、早いか遅いかの違いだけだし

96 ：
人間は誤診する
AIは誤診する

じゃあAIでいいな

97 ：
ＡＩに、言い訳・・・・誤りの理由の説明と謝罪の機能を搭載すれば良いわけだね

98 ：
AIに説明機能持たせると、論文の間違いとか捏造が次々と発覚したりして。

99 ：
まだ生きてるのに臨終宣告して、あとからヘラヘラ笑いながら「誤診じゃよｗ」とか言っちゃう名医（自称）だっているわけだし

100 ：
診断精度が人間を上回れば理由が説明できなくても患者にとっては何ら問題ないだろ。
誤診理由が分からなくて困るのは診断AIの開発やってる人間であって患者ではない。


100〜のスレッドの続きを読む
【医学】子宮頸がん予防のＨＰＶワクチン　副作用の「認知機能低下」記載省く　厚労省資料
【天文】火星１５年ぶり大接近、明るさ５０倍に…３１日
【言語/民俗学】沖縄・奄美の言語、どう広がった？　琉球語の系統樹作成へ　狩俣琉大教授ら［02/03］
【医学】＜糖尿病＞「主食は穀物」は人類の大きな誤解［05/12］
【動物】外飼いのネコが殺している野生動物は北米だけで年間300億匹、「ネコは屋内で飼って」と専門家
【考古学】謎のボイニッチ手稿にAI、解読方法が判明？8割がヘブライ語の単語と一致[02/06]
【免疫学】オーラルセックスは流産のリスクを下げるかもしれない［04/07］
【宇宙】45年以上人類が月面に足を踏み入れてこなかった理由とは？［07/24］
【話題】全国の国立大学研究費８億円減、梶田所長が抗議「基盤揺らぎかねない」[02/06]
【気候変動】グレタさん「ほんのわずかな気温の上昇も問題」富裕国の気候変動対策を非難　COP25で演説[12/11]
--------------------
【東京都】89人検査して41人が感染　25日 ★2
☆的を「得る」とか「役不足」を誤用する馬鹿 23★
【ヤバイ】AA保管サイトとかヤバげな件【危機】
ヒルナンデス！204ナンデス
【セール・値下げ情報】お得な子供用品情報★12【古着】
【情報】PS2で再生可能なDVDの種類【求む】
【オワコン】[Alexandros] [15]【落ち目】
【テニス】ナダルが１５年間交際の女性と壮大な結婚式　１７世紀の古城で厳重警備
【嵐紺】LIVE is HARD だけどHAPPY【215】
【DFFAC】DISSIDIA FINAL FANTASY(ARCADE)/NT part524【ディシディア】
【社会・犯罪】安全ピンで痴漢撃退はアリ？過剰防衛？
三国志 漢末覇業 part1
【荒らし】トコロテン射精Shigeru-a24対策室 第25刷
【パチスロ実機】只今増殖中につき【転売厨・新規】
【紫紺の襷】明治大学競走部スレPart103
【アールビバン】クリスチャン･ラッセン トレス検証
【ファン限定】わくまゆファン クラブ Part3【アンチ厳禁】
【PSO2悲報】FF14ゲーム内でも国2叩き
iPad mini 4 part41
【名無し奥も○○奥も】気楽に井戸端会議 8266【みんな来い】
TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼