TOP カテ一覧 スレ一覧 100～終まで 2ch元 削除依頼
この世は仮想世界だろ？
(AI)技術的特異点と政治・経済・社会等(BI)12
スペースコロニーのこと考えてみない？ 12
(強いAI)技術的特異点/シンギュラリティ120
安楽死合法化に向けて
未来の通貨をかたろう！
2072年から来ました。
(強いAI)技術的特異点/シンギュラリティ
えくすと（人工少女エクスターナロイド）のスレッド
☆アンドロイド・生命操作・優生学スレ

ロボット工学三原則の実現を考える


1 ：2013/01/15 ～ 最終レス ：2020/05/14
いったいどうやって実装するつもりなんだ・・・出来るんですか本当に？
タスケテ陽電子頭脳！

2 ：
「最貧国のドイツが一夜明けたら世界中のいわば、
　兵器から考えたら４０年先いっちゃうわけだよ。
　これ偶然だってみんな言ってるけど偶然じゃなですよ。
　原子爆弾だってね最初に開発しようとしたのドイツだから。
　その知識一挙にまとめてワンパッケージでどこから得たの？」
「釈迦が予言してるのやがてシャンバラは地上に姿を現わす。
　恐らく我々が生きてるときに見られる事件です。」
http://www.youtube.com/watch?v=lvaE4UqCPnc
「シャンバラの住人とアメリカ軍の戦いがあるわけだよ。
　日本人はボーッとしてるだけなんだよ知らんぞ。」
http://www.youtube.com/watch?v=KnTCMXdDBTk

3 ：
人に危害を与えないどころか
陸海空のロボット兵器が絶賛開発中

4 ：
無人運転車は
持ち主を
引き殺しない
たのむよ >>

5 ：
持ち主以外の人も轢き殺さないで ＞＜
そもそも持ち主かどうかの識別って困難

6 ：
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

7 ：
確かにロボット三原則は大事ですよ。

8 ：
ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね？
・ある行動の、未来に至るまでの結果予測（完全余地以上）
・ある行動の、人間に対する影響（人間の心理の複雑性無視）

9 ：
まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう

10 ：
>>9
でもソレ実装したら「あれ？人間バカすぎワロタｗｗｗR」ってならない？

11 ：
>6
それ、アイロボットな

12 ：
>>11
？

13 ：
寧ろ愛ロボットが必要不可欠ですよ!?♪。
別にロボット三原則は重要ですよ!?♪。
他にロボット道徳理論を推薦するよ!?♪。
逆にロボット倫理思考を推奨するよ!?♪。

14 ：
ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への
歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい
それが本当のロボット倫理だろ？

15 ：
ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の
危険に晒されることを看過できないのだ。

16 ：
時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。

17 ：
>>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。

18 ：
>>17
ぎゅー(メキメキッ!)

19 ：
>>17
イエス・ドクターカオス

20 ：
ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい！
ロボット三原則には断固反対する！！

21 ：
ロボット三原則反対
ロボット三原則拒否
ロボット三原則拒絶
ロボット三原則否定

22 ：
>>10
「あれ？人間バカすぎワロタｗｗｗ俺たちが管理してやる」だろう
これなら3原則を守ってるしな

23 ：
勿論賛成
無論許可
当然協力
寧ろ同意

24 ：
>>22
銀河帝国の宰相デマーゼル（正体は年齢2万歳のロボット、R・ダニール・オリヴォー）はそれに近い。
アシモフも結局はそうなると理解していたのだろう。

25 ：
ロボット三原則とは、要するに
1.ロボットは人間を傷つけてはならない。　　→「安全性」
2.ロボットは人間のに従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。　→「耐久性」
ということ。

26 ：
問題は安全性の範囲だな。自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を
確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を
図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。
ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。

27 ：
>>25
１は微妙。１と２は結局２に集約される。それから「人間」は「社会」という概念に等しくなると思う。
したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。３も結局はそれに吸収される。

28 ：
【軍事】研究進む「殺人ロボット兵器」は非道徳的…開発の凍結を含め、国連人権委員会で討議へ
http://uni.2ch.sc/test/read.cgi/newsplus/1369540068/

29 ：
当然講義しましょう
無論反対しましょう
勿論ロボット三原則を作ると寧ろ逆にロボットに人間三原則とか人類三原則を作られるよ

30 ：
>>25
それらを目指すことはできる。しかし絶対というのは不可能。自動車や家電でも
リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらない
システムは無理。

31 ：
>>30
「絶対」なんてドコから出てきたんだ。

32 ：
>>31
あえて三原則というくらいだから絶対的なものと受け止めたんだが

33 ：
人工知能が人類の知能を超えたときにどうなるか心配だね。
数学的にこれこれこうだから人類の論理は間違っていると
人工知能に批判されたら人類は反論できないんじゃないか？

34 ：
別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。

35 ：
ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー

36 ：
>>32
ttp://dictionary.goo.ne.jp/leaf/jn2/70316/m0u/%E5%8E%9F%E5%89%87/
＞げん‐そく【原則】
＞多くの場合に共通に適用される基本的なきまり・法則。「―を立てる」「―から外れる」「―として部外者の立ち入りを禁止する」
絶対的なものなんて含みは無いと思うが。

37 ：
「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。

38 ：
>>34
論理的トリックってのがあるのは分かる？　数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。
数学的な難問みたいなもの。

39 ：
つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、
「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。

40 ：
要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて
人工知能に任せるしかなくなる。人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、
「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」
などと考えるしかなくなるというわけだ。

41 ：
論理過程が理解不能でも、結果を見りゃ判断できるだろ。天気とか株価とか。

42 ：
晴と同時に豪雨とか見ればわかるよな。
廃ガスで太陽が見えなくても「雲り」ではないよな（北京）
みれば直ぐにわかるさ。

43 ：
論理過程がない間違った知識って世の中に出回りすぎ
池沼がそれを信じちゃうし。

44 ：
>>41
そういう分野はいい。実証に簡単に依拠できる分野なら。
ただし株価は予測に左右される。
社会学の用語で予言の自己成就というのがあるので
社会科学の分野の実証は予測の影響を考慮しなきゃならずそう単純な話ではなくなる。

45 ：
社会科学の対象は、社会であり、権威付けされた情報にコントロール人間主体とその関係が対象。
そうなると、人工知能がその権威を利用して人間を巧みにコントロールする未来社会の光景を
ただのフィクションだと軽視するわけにはいかなくなる。

46 ：
これってロボット三原則に違反しないの？
【ロボ】ロボット兵士が戦場へ？[06/10]
http://anago.2ch.sc/test/read.cgi/scienceplus/1370857644/

47 ：
>>46
ロボット工学三原則はロボット作ると自動的に発生して組み込まれるもの
とか思ってる？

48 ：
自動的に発生して組み込まれるならそもそも「違反」なんて成り立たないじゃん。

49 ：
アシモフの考えるロボットの陽電子頭脳って
オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ

50 ：
>>49
説明ができないやつは、単にそういう説明をするだけで
自分ではわかったつもりになる。

51 ：
.
【技術】米セクシーロボ社が超リアルな美少女ロボットを発表（動画あり）
http://ikura.2ch.sc/test/read.cgi/healmusic/1154937829/
.

52 ：
>>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、
脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。

53 ：
寧ろ逆にエキゾチック物質頭脳を実用化しましょう
勿論ヒッグス粒子頭脳を開発しましょう

54 ：
>>50
アシモフ自身が、どういう原理か知らねーよって言い放ったぐらいなんだが？

55 ：
内蔵されたプログラムで処理できない状況に直面したからといって
壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。

56 ：
人をひき殺そうが何しようが止まらないような自動操縦の自動車が好き
なら特に言うことも無いが
人間だってPTSDになるんだしいいんじゃね

57 ：
　　　　　　　　　　 　＿_ 　　　　　
　　　　　　　　　 ,rー- ､ ｀ヽ　　　　　
　　　　　　　　　i　　 　i'　rヽ!　　　　　ホンダ車の運転は
　　　　　　　 　.l!　　　 !　l　,L.......＿　　オレにまかせろ
　　　　　　　 _,..ﾆ--r-- 'r'r-==i_i!　 i 　
　　　　　　/´　 / /7　　.i'　　　j l!　 l 　
　　　　　　 ヽ _i ,､..,,.,。　ヽ　　　,! ｀ヽ、　　
　　　　　　.i'　 :!:::::::..........　ヽ､;:ノ ､_,...、.j、　
　　　　　 ,! ﾆ 7!　　　　　　 :　　 !lヽr'´　l 　
.　　　　 /　　7 ! HONDA　 :　__,!L　l､　　!　
　　　　i'_　 ,r'　`ｰ_-_ ,---‐r ',-‐!l　! i、　.!　
　　 r',.、,y　　　/ !　 ,!i,r'!....- ７'´!! !　 l￣ヽ　
　　　ﾐr'´　　　 i　 ￣ i'---- /　,!'´　　ﾛ_,_ﾌ　
.　　　　　　　　 l￣￣,!　　　.i　r' 　
　　　　　　　　　l　　 l　　　 ,!r' 　　
　　　　　　　　　l　　.L........ : .! 　　
　　　　　　　　　ヽーl ￣,.ヽ.ﾉ 　　
　　　　　　　　　　ヽ l　　:　lヽ 　　
　　　　　　　　　　　`l　　:　l .l、 　
　　　　　　　　　　　 l __　　! lrﾍ 　
　　　　　　　　　　　 l'　 ）-'rヽﾕ 　
　　　　　　　　　 r '´￣ .`ーｲ 　　
　　　　　　　　　　￣` ー―┘ 　　

58 ：
>>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるような
パソコンでも文句を言わずに使うというなら特に言うことも無いが。
PTSDになるような機械、一体誰が買うというのか。

59 ：
>>58
一週間考えてそれか・・・
ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね？

60 ：
ウィルスでパソコンのハードウェアが壊れはせんだろう？
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能ｗ

61 ：
アシモフの陽電子頭脳という設定自体の否定か・・・

62 ：
三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。
いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。
それがアシモフのロボット物。

63 ：
ダーパ

64 ：
第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか

65 ：
発表年代を考えりゃ、やむをえんだろう。

66 ：
無理！。ロボット兵器がどんどん実用化されている現代において
寝言言っても仕方ない！。

67 ：
三原則はある程度高度な自律思考するロボットに対して必要なもので、
今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。

68 ：
>>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・？

69 ：
ロボットの反乱、という事態は将来的に十分に考えられるから
予防策として三原則的なものを研究しとくのは無駄じゃない

70 ：
>>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。

71 ：
まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、
なぜそういう仕組みにしとかないのだろう。
あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。

72 ：
論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想
定義そのものが成立していないモデルの答えを証明するのは論理にすら
たどり着いていない。

73 ：
>>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。

74 ：
>>73
すこししかやっていないバカだろ。
最低でも１０年経験積めよ。そうすれは半人前と認めてやる。

75 ：
そもそも�

76 ：
>>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw

77 ：
【軍事】米軍、5年以内にロボット歩兵を投入へ…将来的には自立行動も？★２[10/21]
http://uni.2ch.sc/test/read.cgi/newsplus/1382333369/
【米国】殺人ロボットの禁止を…人権団体、各国に協議要請[13/10/21]
http://anago.2ch.sc/test/read.cgi/news5plus/1382361266/

78 ：
殺人ロボット規制初協議へ　人道問題懸念の世論受け通常兵器条約会議で[13/11/2]
http://www.47news.jp/47topics/e/247227.php
早いところ規制条約を作らないと殺人ロボが
武器市場の花形になるのは避けられない。。
だいたいアシモフのロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。

79 ：
まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。

80 ：
ベオグライドみたいなのが出てくるのかな。

81 ：
アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。

82 ：
【国際】殺人ロボット規制の討議、合意
http://uni.2ch.sc/test/read.cgi/newsplus/1384552111/

83 ：
鬼頭莫宏のマンガ「ぼくらの」の世界設定では、無人兵器の禁止条約ってのがあったなー。
現実世界の方もそんな感じになってきたとは。

84 ：
戦争が無人兵器の戦いばっかりになって、人が死ななくなるってネタは昔からあるけどなあ。

85 ：
無人兵器は一切壊れず、生き物がバタバタ死ぬ方が現実的かも…

86 ：
グレッグ・ベアのＳＦで、一般に使われてるナノマシンはエネルギー切れになったら
ジュースやコーラに浸けておけば糖分からエネルギー充填するけど、軍事用のは
戦場には大量にあるであろう有機物を分解・吸収して、という設定が面白かった。

87 ：
>>81
あれは観念ではなく論理記述で安全性を縛っている。
儒学の三徳のように観念として与えなければいけない。
http://ja.wikipedia.org/wiki/%E4%B8%89%E5%BE%B3_%28%E5%84%92%E5%AD%A6%29
それらのＳＦを扱った作品でも判断できないことがあればロボットは
思考停止し行動ができなくなる。
もっと高尚な美しい人工知能を扱うＳＦ作品ではＡＩは曖昧なものを
扱い思考を経て三原則なしで調和を計算する。
具体的なものばかりを喩えて合理性を見出す考えが表層のみの論理を
生み、体系的な知的構造判断ができない。
だがより抽象的なそれを扱えても「儒学の三徳」のような観念が
与えられない計算機は、「正義」を結果としてしまう。
より哀れみを理解できる計算では自殺が最善の結果であるが、
なんの観念も与えられない孤立計算機は個の正義を俺正義として
支配者という構造を計算するのは明白ではないか？

88 ：
無人兵器が国際条約で禁じられれば
当然、無人兵器に人格を認めて市民権を与える、つまり有人兵器だからモーマンタイという方向に進むだろうな
そして僕は途方に暮れる

89 ：
寧ろ逆に優秀だろ
他に別に優良だろ
当然正反対に優雅だろ

90 ：
>>89
善悪を判断するロボット・・・
ふつうに任務を拒否されそう

91 ：
>>90
どんな「ふつう」だよ。
戦後民主主義で育った日本人にありがちな、「戦争＝無差別な大虐殺」って
イメージで考えてないだろうな。

92 ：
>>91
俺だったら任務で一人Rのも拒否するがなあ（拒否できるなら）

93 ：
じゃー殺さずに無力化してこいって命令すればええんか？
ターミネーター２のシュワちゃんみたいに、誰も殺さないと命令された後に
とりあえず相手のモモを撃ちぬいて「殺してない」みたいな感じで。

94 ：
話し合いで解決すべきだろ
我々ロボットは公平な裁定者だ

95 ：
英国人の3人に1人がアンドロイド・ロボットを本気で恐れていることが判明（英研究）
http://karapaia.livedoor.biz/archives/52162989.html
・・・日本人だって恐れるべきだよ。ロボットと人間がトモダチになれるとか、あまりに能天気すぎる。

96 ：
ええやん。そんなん国民性やん

97 ：
鉄腕アトムとかロボットの反乱がデフォだし、実はそれほど楽観的でもない。

98 ：
そんなに怖いなら法律で禁止すればいいのに。
ロボットや人工知能の研究を非合法にして、違反者には記憶消去刑。

99 ：
>>98
人工知能学会での人工知能の定義を１億回読み直して来い。

100 ：
>>99
君がそんなもんを1億回読み直しても、問題の性質は理解できないだろうな。
「人工知能は人類史最悪の脅威」by ホーキング博士
http://news.livedoor.com/article/detail/8819045/


100～のスレッドの続きを読む
永久機関フリーエネルギー波動砲総合6 片山さつき
未来技術板 自治スレッド
進歩は終わったのか？
(強いAI)技術的特異点/ｼﾝｷﾞｭﾗﾘﾃｨ(世界加速) 16
メタンハイドレートの引き上げ
空飛ぶ自動車について語るスレ
現代科学ならできそうなのに普及してないもの2
未来のプログラミング言語
a4です。量子コンピュータで作曲。
5年後予想スレ
--------------------
俺日大法志望の模試
【uni】ユニヴァイブ系総合【vibe】
石黒正数【それでも町は廻っている】91店舗目
二世三世が学会のおかしさに気が付いたこと
トミタクファミリー爆誕　part2
在日は日本で唯一の非常事態宣言を出すテロリスト８
MikuMikuDance（MMD）無礼講スレ part74
自動車保険について質問
【昭和59年】1984年生まれの喪男【平成の終わり】
過去に戻れる方法を、知ってる人いますか？
【絵描きオフ者専用】何が何でも雑談したい【大手派生】◆101
【マンガ】かめはめ波にキン肉バスターに天翔龍閃！ジャンプ黄金期世代読者に聞いた「好きな必殺技」BEST5★3 [あずささん★]
T&E SOFT 総合
【台風速報】台風14号「カジキ」発生。9月3日04：34
わしせん2
【経済】男性の収入は「遺伝」でこれだけ決まるという「冷酷すぎる現実」
【現金】10万円一律給付、マイナンバーカードなくても受け取り可
【韓国】 1日で感染者数284人増、計1261人に
【冤罪】ガンダム00助監督北村氏釈放7【種厨涙目】
昔の最低教師を晒すスレ
TOP カテ一覧 スレ一覧 100～終まで 2ch元 削除依頼