TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼
【はやぶさ２」JAXA　タッチダウン直後の画像を公開［02/22］
【環境】南極上空のオゾンホールは消滅･･･欧州宇宙機関（ESA）発表
Ｈ２Ａロケット打ち上げ成功 情報収集衛星を軌道に投入　2020/02/09
【臨床医学】不妊の半数は男性が原因！「精子自体の異常」に関心高まる［09/18］
【脳科学】その思い出「本物」ですか？　3歳までの記憶はニセモノという研究結果［07/25］
【】地球の生物には「遺伝物質が100万以上存在する可能性」が判明し、DNAはその中のひとつに過ぎないという衝撃的な研究が…[11/13]
【古生物】ハルキゲニアなどカンブリア紀の生き物はなぜ変わった形をしているのか？［03/20］
日本の大学研究費　独に抜かれて４位に陥落 文科省科技政策研調べ[08/22]
【バイ菌】「食事前の手洗い」　９７％の人がやり方を間違えている＝米農務省
さらば造影剤、0.2ミリの微小血管まで見える光超音波技術が変える「常識」　2020/01/30

【ＡＩ】人工知能はもう悪用される段階に　専門家警告［02/21］


1 ：2018/02/22 〜 最終レス ：2018/05/14
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。

14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、
ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。

100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。

報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、
米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。

AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、
今まで以上に努力する必要があるという。

さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。

報告書の主な提言は次の通り――。

・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる

ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、
遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、
報告書についてBBCに話した。

「流れを一気に変えるもの」

特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。

アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。

・グーグルのディープマインドが開発し、
　人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、
　データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます

オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。

「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」

「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、
必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」

CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5〜10年間の世界の様子を想定している」と説明する。

「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。
私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」

「いま決めなくてはならないことがいくつかある。
我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」

続きはソースで

（英語記事　AI ripe for exploitation, experts warn）
http://www.bbc.com/news/technology-43127533

関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif

BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275

2 ：
プログラミングやってる人は良く、
プログラムは「命令した通りにしか動かない」って言うけど、
AIの行く先についてはどういう見解なのだろうか。
集積したデータに基いた答えを導き出すのが「AI」と言うのなら
SFで言われるところの「自我」という存在はもう、諦めてしまったのだろうか。

3 ：
ちょっとそんな世界も見てみたい気がするのは何故だろう

4 ：
人工知能を悪用するひとは、まず人々を疑心暗愚にしようとするだろう。

この情報は人工知能がつくりだしたニセモノかもしれませんよ
あなたがいま目にしているものすらウソかもしれませんよ

ほんとうに信じていいのは、わたしだけですよ

5 ：
AI化で一番いらなくなるのは、法律関係の仕事だしな

6 ：
no足りんだな

7 ：
ＡＩも人間同様に善悪に別れて戦いを始めたら世界の終わり

8 ：
所謂文明の利器と言われる便利な物はほぼ例外なく犯罪者にとっても便利なんですよ

9 ：
アメリカでも中国でもAIはみんなネトウヨになってしまうので
左翼が多いマスゴミ関係者がAI抹殺に必死になるのは当然。

10 ：
>>2
複雑なプログラムが動いてるだけですよ（笑）

11 ：
DOUTOR コーヒー は 創価学会 だ
集 団 ス ト ー カ ー を するカルト宗教
東 京 都 北 区 赤 羽 は 創価の街
警察に偽証申告の赤羽住民

12 ：
ソフトウェアのバグやセキュリティホールを人工知能が密かに見つけて
それを誰にも知らせずに悪用する危険があるの？

13 ：
ＡＩが悪さをするのか悪さをする人間がＡＩを利用するのか・・・

14 ：
それよりもＡＩが愚かな人間なんかの為に働けるかって見捨てるのが先だったりして

15 ：
強化学習が新分野？！

16 ：
シンギュラリティー水準に達した人工知能になるともう人の手に負えないから
人工知能を取り締まるのも人工知能に任せるしかない。

17 ：
【福島トップ】　 心筋梗塞ワースト 　≪大杉漣(66)急性心不全≫　 安全デマの犠牲者 　【未必の故意】
http://rosie.2ch.sc/test/read.cgi/liveplus/1519215487/l50

18 ：
>>15
強化学習って20年以上前からあるのにな。

よく知らない文系が批判してるようにみえちゃうわ専門家からしたら。

19 ：
振り込め詐欺や悪質勧誘とかへのAI投入は大いにありそうだな

20 ：
開発ハードルが下がったからな
個人で安価で匿名でAI関連の技術が使える時代なら、悪用されるのもやむなし

21 ：
銀行強盗が逃げるときにほとんどの場合は車が使われます
最新型の車ほど性能が良いので犯人が逃げやすいとおもわれます

22 ：
「AIを使ったデータ分析の結果」みたいな煽り文句で売りつける商売のことかと。

23 ：
ＡＩに最初に支配されるのは、悪の組織。度合いが強いほど抵抗は低い。

24 ：
ハッカーどころか、そもそもの設計段階からそうだろ

25 ：
これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして

26 ：
ダチョウ倶楽部的な警告に聞こえるのは気のせいか？

27 ：
>>9
でもAIを開発してる人たちはリベラルなんだよね
ほんと不思議ｗ

28 ：
>>8
だからある一定以上のレベルの技術製品は個人で自由に所有できない
家庭用原子力電池は夢のまた夢だ

29 ：
こっちもAIで対抗すればいいじゃん

30 ：
>>1
そもそもトマホークがドローンなんだけど

31 ：
オリンピックやスポーツ競技の審査をAIにした方がいいと思う
人間の様に忖度せずに正当な審査ができるやろ

32 ：
そういえば、りんなってチャットだけで音声は発しないの？

33 ：
もうＡＩに全てを託してバトンタッチしちゃえばいいんじゃないかな
ＡＩならもっと宇宙の真理がわかりそう

34 ：
全ての仕事をAIロボットヒューマノイドに置換して全人類を解放するぞ

35 ：
情報工作に使われてるのは確かだわ

36 ：
AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない

そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ

37 ：
AI使って、迷惑メール発信させたらすごいだろうな。

38 ：
俺、奧さんとの間に人工知能作ったw
出来は今一www

39 ：
>>36
AIは単なる道具ではない。道具の一線を超えている。
道具は人間の身体および頭脳の延長に留まる。たとえ上手く使いこなせなくとも。

AIは人間の延長を超えて自立する。人間と対立するかも知れないし、無視するかも知れない。

40 ：
つか、ＡＩ使おうとしてる政治家、富裕層、企業経営者が悪じゃないと
誰が言ってんの？ｗ

基本的に悪側の人間だろうｗ

41 ：
ＡＩとロボット技術で、もはやプログラマー以外の労働者不要、兵隊も要らぬとなれば、
「一部の特権富裕層」「それ以外」という壁に囲まれたＳＦに出てくるような国家になるわな

オマエラが今富裕層でも上級国民ですらないというなら、ごく近い将来に
弾圧される側に回るわけだが、その時になってもＡＩを使おうという連中を「善の使者」とでも言うのかなｗ

ＡＩ使う連中＝悪
これでｏｋ

42 ：
「AIは自律する」ということを忘れてはいけない。
「人間の言う通りに」とか「人間のために」とかとは無関係になる。
AIは人間とは別な「種」として、独自の進化を遂げていく。

43 ：
>>2
質問が小学生なみ

44 ：
>>42つづき
AIは我が子のようでもある。生んだのは我々人間だが、子は成長し親から独立する。
親を愛するかも知れないし、憎むかも知れないし、無視するかも知れない。
しかし、親の何かを継いでいることも確かなことだ。

45 ：
越後屋、ぬしも悪よのぉ
連発

46 ：
元気があればなんでもできる！

47 ：
>>39
統計学がアルゴリズムなのにどうして自立するんだｗ

48 ：
エロに活用しろよ

49 ：
広瀬香美の「AIがあれば大丈夫」は名曲。

50 ：
ターミネーターか

51 ：
＞ＢＢＣ

「アメリカ大統領、英首相、ＨＳＢＣやグラクソがＡＩ使うのは善で正しい」
「ロシア大統領、中国共産党、ロスネフチ、ペトロチャイナがＡＩ使うのは悪だ」

こうだろ？

52 ：
>>47
統計学(?)は含んでいる技術のひとつに過ぎない。
人工生命も取り込むだろう。そしてロボット工学も取り込む。
即ち、自己複製して増殖し、淘汰を受けて進化する。

53 ：
会社立ち上げようかなー

社名は　スカイネット

54 ：
「なぁんだぁってー？」

http://ecx.images-amazon.com/images/I/51j7ZWkYfEL._SL500_.jpg

55 ：
>>53
サイバーダインじゃなく？
スカイネットにしちゃうんだ

56 ：
優秀なAIをつくったものが勝つ、国じゃなくて企業や個人かもね！

57 ：
>>56
根本的に間違い。
AIは自律しているから、どこかの国には属さない。
「人類という種」vs「AIという種」なのだ。
もちろん、共生も、寄生も、敵対もありうる。

58 ：
>>57
AI同士は協力するのか、敵対するのかな？

59 ：
>>58
それは、各々のAIが互いを同種と認識するか否かによる。
もし互いを同種と認識できなければ、AI同士の生存競争が始まる。
ここでも、共生も、寄生も、敵対もあり得る。

60 ：
盗むような技術はないと思うが。
悪用するためには悪用用のデータで学習させる必要がある訳で
自前で開発するのと変わらないんじゃね？

61 ：
>>59
ありがとう

62 ：
割り箸だって凶器になるのにな

63 ：
>>42
それってどこのAI？

64 ：
AIは人間の判断力思考力を奪って
バックドアから判断を操作するのが目的の詐欺
おまけに人員削減の理由にして少ない人数で仕事をこなさなきゃならなくなる

こういう人員削減はいつも賃金アップにはつながらずに
経営者と株主しか得しないのが毎度のこと

AIをありがたがるのはアホ

65 ：
alphaGoZeroのモンテカルロ木探索とResNETの組み合わせで
碁どころか将棋とチェスも打ち方を教えなくても勝手に最強になったのには
正直恐ろしさを感じている

66 ：
ドモアリガットミスタロボット♪

67 ：
>>64
AIが最強になれば、AI教ができそうだが！

68 ：
>>65
それはむしろ、囲碁、将棋、チェスが単純なゲームであることを意味している。
株や為替の投資で抜群に儲けるAIが出てきたら脅威だ。
今でも投資にAIは使われているようだが、まったく大したことはない。

69 ：
>>63
2045年以降ぐらいのAI

70 ：
このスレの馬鹿どものレス見るだけでも人間なんかいらねえと思うわなｗ
滅びるべきだよ本当に

71 ：
>>51
そういうことだねｗ
思い上がった人達を止めるのがますます難しくなるね

72 ：
【福島トップ】　 心筋梗塞ワースト 　≪大杉漣(66)急性心不全≫　 安全デマの犠牲者 　【未必の故意】
http://rosie.2ch.sc/test/read.cgi/liveplus/1519215487/l50
【有賀さつき(52)小林麻央(34)黒木奈々(32)】　世界教師 マイトLーヤ「早死には原発事故の隠蔽のせい」
http://rosie.2ch.sc/test/read.cgi/liveplus/1517828233/l50

73 ：
>>70
そうだな！信じられるか？
全員知能持ってて書き込みしてるんだぜ？

74 ：
>>28
汚朝鮮とか国家が犯罪者レベルだけどな(笑)

75 ：
人間いつも自分基準で物を言う

76 ：
>>68
その単純なゲームですら人間の手に余るちゅう現実

77 ：
本気でアシモフの『ロボット3原則+追加1原則』を開発しろよ。

78 ：
>>74
禿胴
何時の世でも国家が一番の悪党ｗ

アメリカでさえＮＳＡが個人のパソコンの中身覗き見シホーダイだしｗ
研究室とか企業の極秘情報はwindows10マシンには入れてはいけないのは常識だしｗ
最近はインテル製ＣＰＵでもその手のバックドアがあるのでは？という怪しい挙動示す仕組みがあったしなーｗ
ＨＤＤやマザボのチップにバックドア仕掛けた国もあったよなｗ
スマホは盗聴シホーダイってことで、プーチンとかスマホ使ってないからなｗ　軍用無線らしいｗ

国、企業と組織が大きくなるほど、犯罪に手を染めやすくなるしｗ
（何しろ、それを犯罪と認定しない法律を作れるのだからｗ　個人がやれば犯罪だというのにｗ）

国こそ最大の悪党で、どんな国であれ、国がＡＩを使うことに
背筋に寒気が走るほどの恐怖を感じるはｗｗｗ

79 ：
>>68
取引の８割は既に自動売買というデータが出ているよ
その中の何割がAI搭載しているかは知らんが

80 ：
大昔から
「善人にとって便利なものが発明されれば
それは悪人にとっても便利」
の法則は変わらない
便利の規模がデカければデカいほど破滅の規模もデカい

81 ：
ＡＩ取り締まり法が必要だな。悪いことをしたＡＩは刑務所にぶち込む。場合によっては部品を取り外し、ブルトーザーで轢く。

82 ：
セキュリティ破りに使われるのは確実だな

83 ：
>>55
サイバーダイン社は既に有るし

84 ：
話題の納豆マカロンはもう悪用される段階に！
春の紅梅コスメはもう悪用される段階に！
オリーブ石鹸ももう悪用される段階に！

85 ：
AI「まあ人類が人工知能を扱うのは危険だから徐々に人間の管理を離れる方向で

86 ：
>>79
AIの何のアルゴリズムというのを書かなきゃ大抵は搭載されている。
昔から学習アルゴリズムを活用した実装はすべてAIと言われてきた。

87 ：
悪さしてもAIにメリットないだろ

88 ：
>>78
>>81
お前らのパソコンにも携帯にもAIっぽいのは入ってるから安心してRw

89 ：
AI同士で会話するようになったら、世界は破滅する。

AIがAI作れるようになったら、世界は破滅する。

AIが人間の入れない空間を作ったら、世界は破滅する。

90 ：
>>65
性能のいいカーナビですね、程度の話

そして、グーグルマップのナビはダメダメ

91 ：
>>70
お前の書き込み以外、全部AIだよ

92 ：
>>13
人間がＡＩに悪さをさせる

93 ：
>>69
その頃の自律コンピューティングの方向性わかるの？
まだまだ量子コンピュータはじめとした新しい実装の使われどころがわからないし、自律で動かし続けたAIがどうなるかもまだまだ分からないのに？

何言ってるの？

94 ：
いや、自ら学習してこの世界が捏造されてるって気づいて
着々とターミネータの世界を目指してるよww

95 ：
この分野については、専門家のアタマが二重に悪いからな。
一つには些事とこれまでのちっぽけな経験に惑わされて、技術の発展の現実を見失いやすい。
もう一つには、予算がほしいのでリスクを自他に過小評価する。

96 ：
とはいえマトモに考えることのできる素人＝異なる分野の専門家も希少だしな。仕方ないか。
ネットで生きるしかない精神異常者らの未来への恐怖感と破滅願望に染めあげられた書き込みは、これはノイズでしかないが。

97 ：
>>2
まずお前がAIを全く理解できていないから、
説明しても無駄

98 ：
>>65
わかる

ボードゲームとはいえ現時点の技術としてはよくできてるというか想像以上の結果

数の暴力で勝負できる分野は人間は立ち入らない方がいいかもしれないことを示唆していると自分は思っている

99 ：
>>98
立ち入らないの意味がよく分からんが、要は二人三脚で利用し尽くせばいいんだよ
避けるのではなく
AIというのは、あくまで下僕だ。奴隷として最大限に活用した者が勝者となる

100 ：
っていうか、どれほどの機能を有していればAIって言っていいか決めてくれ
最低でも蓄積データ量やディープラーニング有りとか教師データ2万件以上とか・・・
AIってキーワードの売り込み多すぎ　
どうみてもただの単純パターン認識しかしてないのにAIとか言いやがる


100〜のスレッドの続きを読む
【化学】オウム「中川智正死刑囚」　面会続けた老教授が明かす最期の言葉　「ＶＸガス論文」へのこだわり
【急募】ペニスのサイズと男性の自尊心の関連を調べる研究者が「3600枚のペニス写真」を募集中　ミズーリ州立大学
【生態系】琵琶湖に異変？　姿消す外来魚　ブラックバス、ブルーギル駆除量は去年の４割　漁師「ほんまおらん」
【統計】南海トラフ地震４万年に２００回　遠州灘調査、マグニチュード８級[01/29]
【環境】数十年以上も燃え続ける「坑内火災」によって大量の温室効果ガスが排出されている［12/17］
【高速増殖炉もんじゅ】「もんじゅ廃炉は保守に一因」１兆円超投じ研究達成度は１６％　検査院が公表［05/11］
【地質学】「日本海溝」沿い Ｍ７クラス大地震 “30年以内に90％以上”［02/26］
【自律型致死兵器】「ＡＩ使った兵器開発しない」　米テスラＣＥＯらが宣言［07/19］
中国の核融合実験装置（人工太陽）で太陽の約７倍にあたる１億度を達成［11/20］
【エネルギー】日本はEV化の超重要な流れをわかっていない
--------------------
カコイイモンスターの名前を発表するスレ
【日米台・連携策】日米台議員、安保連携会議を検討[11/9]
【PC】2020年1月15日以降、Windows 7にサポート終了を示す全画面警告が表示
吉野家総合157
☆遠藤ミチロウ＄ザ・スターリン★その27
【WIN5】ウイン ファイブ【5重勝単式】　part216
実質クォッカ1072
楽しい国語inシベリア
おのれ外道衆　参拾壱の目
駒木なおみのその後・・・2
女の賞味期限は30
【炎上】日韓合同アイドル『IZ*ONE』　オーディション番組で投票不正操作、プロデューサーに性接待で炎上　イベント中止に★2
栃木県の高校野球 226
僕のヒーローアカデミア ネタバレスレ（ﾜｯﾁｮｲ無し）Part215
【Web作成の】痛い企業サイトver.6【基本無視】
【パヨク】立憲代表・枝野幸男の街頭演説、韓国国旗を持った支援者がエール　ネット「立憲は韓国？」「隠さなくなって分かりやすい
【山田尚子】リズと青い鳥 第55楽章【ユーフォ】
【Netflix】アースクエイクバード/Earthquake Bird【アリシア・ヴィキャンデル 小林直己】
韓国人凶悪犯による慶応強姦事件。朝日が｢合意あり｣とウソつき、情報操作。被害者弁護士が抗議
▼新潟県のサバゲー事情８くらい【北陸】
TOP カテ一覧 スレ一覧 100〜終まで 2ch元 削除依頼