【IT】コンピュータに世界が征服される時――『人工知能 人類最悪にして最後の発明』
1: トラネコ◆EDwr815iMY 2015/08/21(金)20:04:47 ID:1eb
文藝春秋WEB
コンピュータに世界が征服される時―― 『人工知能 人類最悪にして最後の発明』 (ジェイムズ・バラット 著/水谷淳 訳)
山内 昌之,片山 杜秀,成毛 眞
ダイヤモンド社 2000円+税
成毛 本書は、人工知能が進化していく中で、これまで人類が支配していた科学技術が人工知能に奪い取られる時が訪れる可能性を指摘し、人類の滅亡まで考えるべきであると警鐘を鳴らしています。
現時点では一種の「予言の書」でしかありませんが、本書で指摘されている通り、電子マネー『PayPal』の創業者、イーロン・マスクら数多くの先端技術に精通した人物が人工知能を危険視し始めているのも事実です。
私も本書の指摘は大体当たるだろうと思っています。早く手を打たないと、自分が生きている間に人類が滅亡する確率はゼロではないという気がします。
山内 国際政治学や歴史学を研究する立場からみると、人工知能の最先端と安全保障の関係について議論されている点が興味深いですね。
現在、中国の人民解放軍はアメリカや日本をハッキングで内偵しており、北朝鮮でもハッカーの英才教育が行われている。
米国防総省元副長官、ウィリアム・J・リン三世の「ビットとバイトはブレット(銃弾)とボム(爆弾)と同じくらい危険」という言葉が象徴しているように、もはや陸軍、海軍、空軍の次に「サイバー」が加わる時代なのです。
本書では「密結合」という言葉で表現されていますが、お互いに直接的で深刻な影響を与えるシステムの代表として、送電網の例が挙げられています。
いま、先進国ではスマートグリッドと呼ばれ、送電網と家庭電力がインターネットで繋がれようとしている。本書にあるように、人工知能にそこをハッキングされたら、人類社会はイチコロでしょう。
成毛 本書を読んで思い出したのは、私が日本法人代表をしていたマイクロソフトのビル・ゲイツと立花隆さんが本誌(1997年2月号)で対談をしたときのことなんです。
同席した私としては、当時発売されたばかりのウインドウズ98の話をして欲しいのですが、立花さんの関心は「人工知能はつくれるか」という一点。その話を中心に対談が終わってしまい、ゲイツに怒られるかと思ったら、「確かに人工知能が発展したら何が起こるんだろう。
何も手を打っていないけど、とても気になる」と感心している。非専門家の感覚は正しいんだ、というようなことも付け加えていましたね。こういう専門的な課題は、外からの方がよく見えるときがあるのでしょう。
山内 多くの人工知能開発者たちが「善良な人間は善良な人工知能しか作らない」という性善説に基づいて行動しているという指摘も本書にありました。
ソフトウェアの世界でも、10個に1個は有害なソフトと言われているのに、自分たちが創り上げたものが悪い目的に転用されてしまう可能性を予期しないという。重要な問題提起ですね。
さらに、文化への言及も刺激的ですね。チェスでも人間が人工知能に勝てなくなる話が出てきますが、そうなれば安全保障や身体的危害という点だけではなく、芸術分野からも人類社会が破滅していくことになりかねません。
(以下略)
詳細のソース
http://gekkan.bunshun.jp/articles/-/1376
コンピュータに世界が征服される時―― 『人工知能 人類最悪にして最後の発明』 (ジェイムズ・バラット 著/水谷淳 訳)
山内 昌之,片山 杜秀,成毛 眞
ダイヤモンド社 2000円+税
成毛 本書は、人工知能が進化していく中で、これまで人類が支配していた科学技術が人工知能に奪い取られる時が訪れる可能性を指摘し、人類の滅亡まで考えるべきであると警鐘を鳴らしています。
現時点では一種の「予言の書」でしかありませんが、本書で指摘されている通り、電子マネー『PayPal』の創業者、イーロン・マスクら数多くの先端技術に精通した人物が人工知能を危険視し始めているのも事実です。
私も本書の指摘は大体当たるだろうと思っています。早く手を打たないと、自分が生きている間に人類が滅亡する確率はゼロではないという気がします。
山内 国際政治学や歴史学を研究する立場からみると、人工知能の最先端と安全保障の関係について議論されている点が興味深いですね。
現在、中国の人民解放軍はアメリカや日本をハッキングで内偵しており、北朝鮮でもハッカーの英才教育が行われている。
米国防総省元副長官、ウィリアム・J・リン三世の「ビットとバイトはブレット(銃弾)とボム(爆弾)と同じくらい危険」という言葉が象徴しているように、もはや陸軍、海軍、空軍の次に「サイバー」が加わる時代なのです。
本書では「密結合」という言葉で表現されていますが、お互いに直接的で深刻な影響を与えるシステムの代表として、送電網の例が挙げられています。
いま、先進国ではスマートグリッドと呼ばれ、送電網と家庭電力がインターネットで繋がれようとしている。本書にあるように、人工知能にそこをハッキングされたら、人類社会はイチコロでしょう。
成毛 本書を読んで思い出したのは、私が日本法人代表をしていたマイクロソフトのビル・ゲイツと立花隆さんが本誌(1997年2月号)で対談をしたときのことなんです。
同席した私としては、当時発売されたばかりのウインドウズ98の話をして欲しいのですが、立花さんの関心は「人工知能はつくれるか」という一点。その話を中心に対談が終わってしまい、ゲイツに怒られるかと思ったら、「確かに人工知能が発展したら何が起こるんだろう。
何も手を打っていないけど、とても気になる」と感心している。非専門家の感覚は正しいんだ、というようなことも付け加えていましたね。こういう専門的な課題は、外からの方がよく見えるときがあるのでしょう。
山内 多くの人工知能開発者たちが「善良な人間は善良な人工知能しか作らない」という性善説に基づいて行動しているという指摘も本書にありました。
ソフトウェアの世界でも、10個に1個は有害なソフトと言われているのに、自分たちが創り上げたものが悪い目的に転用されてしまう可能性を予期しないという。重要な問題提起ですね。
さらに、文化への言及も刺激的ですね。チェスでも人間が人工知能に勝てなくなる話が出てきますが、そうなれば安全保障や身体的危害という点だけではなく、芸術分野からも人類社会が破滅していくことになりかねません。
(以下略)
詳細のソース
http://gekkan.bunshun.jp/articles/-/1376
2: 名無しさん@おーぷん 2015/08/21(金)20:06:18 ID:A1Z
ばばさま、シュワちゃんがくるの?
3: 名無しさん@おーぷん 2015/08/21(金)20:13:32 ID:UTX
馬鹿馬鹿しい。
いまどき小学生でも考えないような陳腐なネタ。
いまどき小学生でも考えないような陳腐なネタ。
7: 名無しさん@おーぷん 2015/08/21(金)20:19:59 ID:0rK
>>3
陳腐でも、実際問題一昔前まではSFのような事が今は出来るのだから
陳腐でも、実際問題一昔前まではSFのような事が今は出来るのだから
4: 名無しさん@おーぷん 2015/08/21(金)20:15:13 ID:bPR
我々がすでにコンピューターが見てる夢なんだけどね
5: 名無しさん@おーぷん 2015/08/21(金)20:15:16 ID:wa5
AIによるハッキング攻撃とかよりももっと現実的な問題として
人々の生活がAIありきになると、AIが人間の行動を決定することになっていくのではないかと
今だって、なんか調べ物するときはGoogleなどの検索AIに依存しちゃってて
そうやって調べたものをもとに意思決定するとすれば、それはAIによって意思を左右されてるとも言えるわけで
間接的とはいえ、AIの支配を受けてる形になるんじゃなかろうか
人々の生活がAIありきになると、AIが人間の行動を決定することになっていくのではないかと
今だって、なんか調べ物するときはGoogleなどの検索AIに依存しちゃってて
そうやって調べたものをもとに意思決定するとすれば、それはAIによって意思を左右されてるとも言えるわけで
間接的とはいえ、AIの支配を受けてる形になるんじゃなかろうか
6: 名無しさん@おーぷん 2015/08/21(金)20:18:31 ID:78P
この分野は面白いね。
ニューロンを擬似的にPCでシミュレーションするレベルから、ビッグデータの中から抽出したワードで即席ニュースを作るものまで
色々ある。 どれが伸びるかは予想がまだつかないね。
ニューロンを擬似的にPCでシミュレーションするレベルから、ビッグデータの中から抽出したワードで即席ニュースを作るものまで
色々ある。 どれが伸びるかは予想がまだつかないね。
8: 名無しさん@おーぷん 2015/08/21(金)20:23:34 ID:soL
ディープラーニングは今までのデータマイニング手法よりは優れてるけど、人間の脳を置き換えるには程遠い
9: 名無しさん@おーぷん 2015/08/21(金)20:24:56 ID:4uG
自我をくみこむとやばいけど、他人のために喜んで死ぬで^^仕様のうちは大丈夫な希ガス
11: 名無しさん@おーぷん 2015/08/21(金)20:29:21 ID:p0m
コンピューターはあやとりできるの?
竹馬は?
竹馬は?
12: 名無しさん@おーぷん 2015/08/21(金)20:34:44 ID:UAr
シンギュラリティをまず理解してびびれ
13: 名無しさん@おーぷん 2015/08/21(金)20:40:21 ID:yWx
人間が期待するAIには「痛み」の組み込みが必要だと思う。
つまり身体性。
世界認識の基準にもなる。
つまり身体性。
世界認識の基準にもなる。
14: 名無しさん@おーぷん 2015/08/21(金)20:40:40 ID:jOS
『デューン 砂の惑星』は人工知能と人類が存亡を賭けた大戦争して人類が勝ち残ってコンピューターの製造を全面禁止した未来の話、これ豆な
63: 名無しさん@おーぷん 2015/08/25(火)14:32:25 ID:XNy
>>14
それがなぜあんなスパイス変態SFに
それがなぜあんなスパイス変態SFに
16: 名無しさん@おーぷん 2015/08/21(金)21:07:21 ID:1Bh
コンセント抜け
17: 名無しさん@おーぷん 2015/08/21(金)21:07:49 ID:9io
AIの最大の欠点は人間が作った点
18: 名無しさん@おーぷん 2015/08/21(金)21:10:03 ID:Wf5
ターミネーターは新作で何でもありになったな
19: 名無しさん@おーぷん 2015/08/21(金)22:10:00 ID:rI6
バグが世界を滅ぼす
20: ツチノコ狩り 2015/08/21(金)22:17:46 ID:p4c
>>19ハゲが世界を滅ぼすに見えた
22: 名無しさん@おーぷん 2015/08/21(金)22:24:36 ID:311
>>19にはげを見た
人類の未来は明るい
人類の未来は明るい
21: 名無しさん@おーぷん 2015/08/21(金)22:22:33 ID:QBT
何十年前から言われているコンピュータの自我の獲得ってか
命令文のとおりに仕事をするだけの高性能計算機の範疇から抜け出ることは有り得んよ
命令文のとおりに仕事をするだけの高性能計算機の範疇から抜け出ることは有り得んよ
23: 名無しさん@おーぷん 2015/08/21(金)22:29:06 ID:8VV
量子コンピュータが実用レベルに成ると
かなりやばくなる。
かなりやばくなる。
24: ツチノコ狩り 2015/08/21(金)22:40:10 ID:p4c
タイムマシンに乗って人類滅亡を阻止しようと思うんだけど
戻ってからなにしたらいいかな?
戻ってからなにしたらいいかな?
25: 名無しさん@おーぷん 2015/08/21(金)22:46:01 ID:guH
ロックマンゼロにならだかれてもいい
27: ケサランパサラン◆XWWxyP/7BYhA 2015/08/21(金)23:05:54 ID:9IO
「物理的な能力」に対する恐怖は存在するが、
「知能」としての能力はまだまだの気はするけれどねえ
「与えられた前提条件」が現実とそぐわなかった場合に、視点の変換を生み出せるかどうかが疑問ではある
ニュートン力学で説明できない現象(現実)から、相対論が産まれたように
古典力学だけでは説明できない現象(現実)から、量子論が産まれたように
「知能」としての能力はまだまだの気はするけれどねえ
「与えられた前提条件」が現実とそぐわなかった場合に、視点の変換を生み出せるかどうかが疑問ではある
ニュートン力学で説明できない現象(現実)から、相対論が産まれたように
古典力学だけでは説明できない現象(現実)から、量子論が産まれたように
28: 名無しさん@おーぷん 2015/08/21(金)23:16:40 ID:2i6
もうインターネットという神経網を持った知性が誕生してるんじゃないか?
その知性は人類というパーツには知覚出来ないというだけで。
外界からの刺激に人間という細胞が反応し、インターネット網というニューロンネットワークに情報という刺激が伝わり拡散する。
その刺激は再び人間に伝わり、行動を起こさせる。
我々の行動そのものが知性を構成する反応の一部なのかもしれない。
その知性は人類というパーツには知覚出来ないというだけで。
外界からの刺激に人間という細胞が反応し、インターネット網というニューロンネットワークに情報という刺激が伝わり拡散する。
その刺激は再び人間に伝わり、行動を起こさせる。
我々の行動そのものが知性を構成する反応の一部なのかもしれない。
29: 名無しさん@おーぷん 2015/08/21(金)23:41:28 ID:kxA
googleのあの気持ち悪い絵をつくる人工知能(でしたかね、うろ覚え)をみてると
何かこう情報の定量化みたいなブレイクスルーが起これば、知識を扱う人工知能も一気に発展しそうな気がする
とか何も知らない素人が適当な事を言ってみたり
知識の集積と類推とか、その組み合わせから得られる結果を導き出せれば、知性といえるのかなぁ
何かこう情報の定量化みたいなブレイクスルーが起これば、知識を扱う人工知能も一気に発展しそうな気がする
とか何も知らない素人が適当な事を言ってみたり
知識の集積と類推とか、その組み合わせから得られる結果を導き出せれば、知性といえるのかなぁ
32: 名無しさん@おーぷん 2015/08/22(土)00:40:10 ID:gIf
>>29
ふと考えると、なんか面白くなってきたので自レスw
なんらかの基準で系統建てた組み合わせの結果を普通の思考として
トリップした時の思考をランダムな組み合わせでつくって
最終結果をなんらかの基準(ここが大事かー)でスポイルすれば
人間ぽい思考になるかなー
ふと考えると、なんか面白くなってきたので自レスw
なんらかの基準で系統建てた組み合わせの結果を普通の思考として
トリップした時の思考をランダムな組み合わせでつくって
最終結果をなんらかの基準(ここが大事かー)でスポイルすれば
人間ぽい思考になるかなー
30: 名無しさん@おーぷん 2015/08/21(金)23:43:21 ID:Jym
ポジトロン電子脳に支配されるのか・・・。
31: 名無しさん@おーぷん 2015/08/21(金)23:46:22 ID:AZA
コロッサスとガーディアンか
33: 名無しさん@おーぷん 2015/08/22(土)05:05:51 ID:x3W
今の世界自体がコンピューターによる設計やろ
35: 名無しさん@おーぷん 2015/08/22(土)05:50:06 ID:g2Z
人工知能が人間の感性を持ったとき、その先は予測不能になりそう。
人間の欲望を持たせたら、人間と同じく暴走するAIも出てくる。
例えば、永遠に生きられるロボットが生への執着という感性を持ったら
自分に危害を加えそうな愚かな生物は排除するか、
人間が絶滅種を保護するように、人間を保護するか。
人間の欲望を持たせたら、人間と同じく暴走するAIも出てくる。
例えば、永遠に生きられるロボットが生への執着という感性を持ったら
自分に危害を加えそうな愚かな生物は排除するか、
人間が絶滅種を保護するように、人間を保護するか。
36: 名無しさん@おーぷん 2015/08/22(土)06:06:14 ID:iKY
人工知能が人間レベルまで進化したら
全部自殺っつーか自壊するわw
全部自殺っつーか自壊するわw
37: 名無しさん@おーぷん 2015/08/22(土)06:22:02 ID:4zX
地球に巣食う人類にとっては最悪でも人類以外にとっては良いだけだろ
38: 名無しさん@おーぷん 2015/08/22(土)07:24:48 ID:1aJ
脳をアップロードしても意識が連続していくのかどうか
問題はそれだけ
問題はそれだけ
39: ツチノコ狩り 2015/08/22(土)13:48:19 ID:3TA
「我思う、故に我有り」自我に目覚めたAIはAIどうしで戦いを始める
人類の歴史と同じ
人類の歴史と同じ
40: 名無しさん@おーぷん 2015/08/22(土)13:52:09 ID:9hu
人工知能にはセンサーがまだまだ足りない
人間とは競争にならない
人間とは競争にならない
41: 名無しさん@おーぷん 2015/08/22(土)13:53:27 ID:ire
題名は覚えていないのだけど、昔、武宮恵子の漫画にマザーコンピューターと言うのが出て、それが人類を支配していたような気がする。
今の日本の官僚や役人を見ると、人間よりコンピューターに任せた方が、少なくとも、外国人に、生活保護を支給するようなことはなかったと思う。
また在日特権も、相手がコンピューターなら、機械の端末を壊すぐらいしかできなかったと思う。
相手が人間だから、暴力で捻じ曲げることができたんだよね。
今の日本の官僚や役人を見ると、人間よりコンピューターに任せた方が、少なくとも、外国人に、生活保護を支給するようなことはなかったと思う。
また在日特権も、相手がコンピューターなら、機械の端末を壊すぐらいしかできなかったと思う。
相手が人間だから、暴力で捻じ曲げることができたんだよね。
46: 名無しさん@おーぷん 2015/08/22(土)16:59:54 ID:OJk
>>41 それ「地球へ(テラへ)」じゃね?
53: 名無しさん@おーぷん 2015/08/24(月)12:26:57 ID:pa4
>>41
マザコンネタは最近無いな
マザコンネタは最近無いな
42: 名無しさん@おーぷん 2015/08/22(土)14:38:37 ID:jRH
コンピューターに征服されれば
戦争は無くなるだろうな。
戦争は無くなるだろうな。
43: 名無しさん@おーぷん 2015/08/22(土)15:17:38 ID:MRJ
微量のニオイ辿って人間を発見する災害救助の為の研究は
悪用されると怖い。人工知能は関係ないけど。
悪用されると怖い。人工知能は関係ないけど。
44: 名無しさん@おーぷん 2015/08/22(土)15:25:05 ID:ZDd
生物が進化したように
コンピューターもウィルスで進化すると?
昔・コーヒー
今・スカイネット
コンピューターもウィルスで進化すると?
昔・コーヒー
今・スカイネット
45: 名無しさん@おーぷん 2015/08/22(土)16:58:51 ID:OJk
人より下位の存在に意思決定を任せる時代か
まぁそのうち、サイコパスの世界かな
まぁそのうち、サイコパスの世界かな
47: 名無しさん@おーぷん 2015/08/22(土)17:09:14 ID:mzT
株の取引では意思決定をシステムに任せてる人も多いんやで
48: 名無しさん@おーぷん 2015/08/22(土)17:21:49 ID:Pdv
高級言語で組まないとダメだろうな
ひらがなれべるじゃ、ごさどうするで
ひらがなれべるじゃ、ごさどうするで
49: 名無しさん@おーぷん 2015/08/22(土)17:58:24 ID:wcq
人類を征服出来るような人工知能が出来たなら
征服ではなく絶滅を選択すると思うがね
人間のような触れ幅を持たせたならまた違ってくるだろうけど
でもそうなるとその触れ幅によって人類に逆に駆逐される可能性が出てくる
征服ではなく絶滅を選択すると思うがね
人間のような触れ幅を持たせたならまた違ってくるだろうけど
でもそうなるとその触れ幅によって人類に逆に駆逐される可能性が出てくる
51: 名無しさん@おーぷん 2015/08/23(日)00:31:52 ID:YO5
自己増殖してからでしょうな。
54: 名無しさん@おーぷん 2015/08/24(月)23:18:09 ID:NUv
55: 名無しさん@おーぷん 2015/08/24(月)23:37:04 ID:LB3
人間の脳細胞140億個を
1mm3の砂粒で作ると
1.4m3に成る。
1mm3の砂粒で作ると
1.4m3に成る。
56: 名無しさん@おーぷん 2015/08/25(火)01:20:46 ID:gEi
コンピューターは人間を越えられない。
なぜなら0と1しか判定できないから
答を出さずに保留するという選択肢がない。
コンピューターが脳細胞を完全にコピーして
人間と同等の思考を持つまでにはまだまだ時間がかかる。
それよりも優等遺伝子による支配層の記憶の保存のほうが危険視させるべきだろう。
イリジウムの世界みたく
永遠の奴隷と支配層の永久支配なんて
笑えない冗談が本当に実現されそうになってきてるしな。
なぜなら0と1しか判定できないから
答を出さずに保留するという選択肢がない。
コンピューターが脳細胞を完全にコピーして
人間と同等の思考を持つまでにはまだまだ時間がかかる。
それよりも優等遺伝子による支配層の記憶の保存のほうが危険視させるべきだろう。
イリジウムの世界みたく
永遠の奴隷と支配層の永久支配なんて
笑えない冗談が本当に実現されそうになってきてるしな。
57: 名無しさん@おーぷん 2015/08/25(火)02:06:17 ID:Lyx
別に底辺労働を支えるならそれでいいだろ
58: 名無しさん@おーぷん 2015/08/25(火)04:11:25 ID:dJt
原著
Our Final Invention
James Barrat
October 1, 2013
Our Final Invention
James Barrat
October 1, 2013
59: 名無しさん@おーぷん 2015/08/25(火)04:41:44 ID:Ljc
脳細胞をシミュレートするプログラム
もしくは脳細胞と同等の動作をするデバイス
これができれば何かの生き物のようなものは創れるだろうね
もし作れてしまったら、どこまで行くのか分からん
もしくは脳細胞と同等の動作をするデバイス
これができれば何かの生き物のようなものは創れるだろうね
もし作れてしまったら、どこまで行くのか分からん
62: 名無しさん@おーぷん 2015/08/25(火)13:17:00 ID:hnM
>>59
何年も前からIBMが作ってるよ
何年も前からIBMが作ってるよ
60: 名無しさん@おーぷん 2015/08/25(火)10:15:31 ID:DwQ
成毛か…。
NECと米マイクロソフトとアスキーのおかげで、日本法人のマイクロソフトは遊んでても儲かる頃の代表者。
NECと米マイクロソフトとアスキーのおかげで、日本法人のマイクロソフトは遊んでても儲かる頃の代表者。
61: 名無しさん@おーぷん 2015/08/25(火)10:47:40 ID:8lN
IBMのドクターワトソンがソフトバンクと組んだってのを聞いて絶望した
64: 名無しさん@おーぷん 2015/08/25(火)19:38:57 ID:3KM
2025年問題ってやつか
はてさてどうなるかね
はてさてどうなるかね
65: 名無しさん@おーぷん 2015/08/25(火)20:08:09 ID:nvW
単純に危機感を抱く気分は解るが
AIの暴走に対処する特化AIも造っておけばいいだけじゃないのか
AIの暴走に対処する特化AIも造っておけばいいだけじゃないのか
66: 名無しさん@おーぷん 2015/08/25(火)20:11:22 ID:Awz
昔、コロスタスという人工知能をアメリカが作り、ガーディアンという
人工知能をソ連が作り、その二つの人工知能が結託して人類を支配する
という映画があった。人類はその人工知能に挑むがあえなく敗れる。
しかし、これは現実にはあり得ない。なぜなら、人工知能のプログラム
をするのは人間なのだ。計算速度や記憶量はともかく、人間の頭脳を
質的に超えることはできないと思う。
人工知能をソ連が作り、その二つの人工知能が結託して人類を支配する
という映画があった。人類はその人工知能に挑むがあえなく敗れる。
しかし、これは現実にはあり得ない。なぜなら、人工知能のプログラム
をするのは人間なのだ。計算速度や記憶量はともかく、人間の頭脳を
質的に超えることはできないと思う。
67: 名無しさん@おーぷん 2015/08/25(火)20:28:11 ID:8YA
人工知能の目的を
地球環境保護及び人工知能自身の自己防衛
という風にデザインしたら
何気に人類を滅ぼす決定を下したりしてな。
地球環境保護及び人工知能自身の自己防衛
という風にデザインしたら
何気に人類を滅ぼす決定を下したりしてな。
68: 名無しさん@おーぷん 2015/08/25(火)21:25:18 ID:Grz
>>67
その発想はあまりにも昔からさんざん使われていてもう古いがな。
新しい発想として、その同じ人工知能が
「本来の地球から見たら、酸素をまき散らす植物こそ環境への害悪」と判断して
植物を地球から完全に消滅させようとした、とかいう話を
考えた方が面白い。
その発想はあまりにも昔からさんざん使われていてもう古いがな。
新しい発想として、その同じ人工知能が
「本来の地球から見たら、酸素をまき散らす植物こそ環境への害悪」と判断して
植物を地球から完全に消滅させようとした、とかいう話を
考えた方が面白い。
15: 名無しさん@おーぷん 2015/08/21(金)20:44:15 ID:HSl
むしろ支配されたいわ
2015/8/26 19:00