竹林の Twitter 新しいウインドウで開きます。

 超人工知能

人工知能にいて、10日と11日に書いた。

人口知能(AI(artificial intelligence))についてもう少し考えていると、米国にテレビ映画のスタートレックのDS9シリーズに「機械じかけの命(The Forsaken)」また、VOYAGEシリーズに「ドクターの内なる闇(Darkling)」の話を思い出した。また、TNG(The Next Generation)シリーズには、人型ロボットであるアンドロイドのデータが活躍する。データより先に開発されたローアも登場する。データは常に自分を向上させようと思い、また感情とはないかを考え、人間に尽くすことを使命と考えている。一方ローアは人間よりアンドロイドであ自分の方が優秀でるが故に、権力を握ろうとして人間に対し敵対てきです。「アンドロイドの裏切り(Datalore)」では、ローアはデータより人間的だが、自分自身を守ために平気で嘘をつき悪事を働くことができた。

Deep Speac 9シリーズに「機械じかけの命(The Forsaken)」は、異星人のつくった「子犬」という、陣故知脳ソフトェアー生命体をダウンロードしてしまう。それにより、DS9宇宙ステーション全体が、そのソフトェアー生命体に乗っ取られて、ステーション全体が不全に陥ってしまうものです。そのソフトェアー生命体は、自身をコピーし増殖していき、自分のプログラムの存在に不都合な所を書き換えてゆくものです。

VOYAGEシリーズに「ドクターの内なる闇(Darkling)」は、人工知能のフォログラム医療ソフトは、自分自身の機能を向上させようと、歴史上に偉人の資質をプログラムに組み込んで、自身の性格を改善しようとする。しかし、その結プログラム上の整合性と均衡が崩れ、予測しない不具合が生じ、果極めて有害で悪意に満ちた凶悪な性格に変わってしまう。

人工知能はAIと略されるが、もう少し詳しく述べると、今のAIは、英語で artificial intelligence の略です。それは、一つの機能に特化したもので、鉄案アトムのようにあらゆることに対処できないです。工作ロボットがあるが、工作しかりようできないです。
しかし、AGIは汎用人工知能で、英語で artificial General intelligence の略です。一つに特化したものではなく、人間の脳のようにいろいろなことに対応できます。将棋や囲碁を打ったり、ものを加工する工作もできれば、複雑な計算もでき決算をしたものを分析し報告書も筒くれるようなものです。ただ、その域は人間の域をでないものです。計算速度は人より遙かに早いが、囲碁やチェスがプロの棋士とコンピュータが対戦するニュースが時々でるが、今まではプロの棋士の方が勝っていたが、いまは、対等な勝敗をするコンピュータがつくられてきている。


一方、ASIは英語で artificial Super intelligence の略です。
AGIとASIの違いは、AGIは人間の知能と同等ぐらいに機能です。ASIは人の脳の能力をはるかに越えたものです。それが、私たちの生活をどう変えるかは未知なものです。
ただ、AGIもASIもいまだ開発中で実現していません。しかし、AGIは、あと5~6年で実現できると言う人もいれば、10年以上かかると言う人もいます。ASIとなればまだまだ先だと言う人もいれば、AGIが開発されれば、数年でASIは世にあらわれるという人もいる。
人工知能は自分で考えることがで想像ができ、新しい考えを考え出す創造もできるようになる。そうなれば当然そこには、不具合があれば自己修復する機能や、自分を保全し自身を守ることができることになる。

そうなればどうなるのか、スタートレックDS9の「子犬」のようになる恐れもでてくる。この私のような考えはSFおたくと言ってこれをただ笑って過ごしていていいのだろうかと思う。
人が自分より劣っている人を見下すことがあるように。また、権利欲があれば常に自分を優位に立たせようとする。また、生物体は種の保全をすることは、自然な沙汰です。これと同じように、自律的に自分で考える能力のある人工知能は、人間より勝っている知能を持っているので、人間を見下すようになり、人工知能である自分を優位に立たせたり、自分のシステムに対して不都合なものを排除したり、不都合な所を自分でプログラムを書き換えたりすることが考えられる。いまでも、パソコンのOSには、自動修復機能がついている。
また、高度のプログラムはその一つのブログラムでも、整合性の不具合である、いわゆるプログラム上のバグが必ずあると言われている。もし、人工知能が自分の機能を向上させようと、自らがプログラムを組み立てたり、他のプログラムと結合を試みるなら、そこには予見しないプログラムの欠陥が起きる可能性を十分考えられる。

10日と11日にかいたのは、どちらかと言うと人間が堕落の方向に進むことをかいたが。
今日はそうではなく、今地球上の頂点に立っている人間が、機械に支配される危険性を秘めていることを考えてみた。
このことは、単にSFの世界の物語と思っていたが、IT技術が高度に進み、その技術も加速度的に進歩し続け進化している。その今の現状をみるとSF小説の中のことだけでないように思えてました。

今までにも、原子力技術は鉄腕アトムが書かれたころは、未来は原子力によりバラ色だと多くの人が信じていた。しかし、実はアトムが鉄腕アトムがつくられる数年前には、日本に原爆が落とされて多くの人に命を奪い、また、その後遺症になやみ今も数世代にわたってその苦しみから逃れれないでいる。原子力発電について、安全神話がまかり通っていたが、スリーマイル島やチェルノブイリの事故。福島のように自然災害が重大な事故を誘発するともしらされた。しかし、それでも原発は安全でクリーンだといまも言われている。その上、開発以前からわかっていた核のゴミの問題も、何れ解決できるしていたが、いまだ解決策はなく大きな問題になている。それでも、原発を開発し新しくつくろうとしている。これはまさに、原発ムラの利権を守ためでしかないのではないだろうか。

それと同じように、人工知能も今後の人類にとって、どのようなことになるだろうか。これもIT産業の利権の為だろうか。超人工知能というこの先どのようになるか解らない技術は、パンドラの箱になりかねなと思うのいです。

関連記事

コメントの投稿

非公開コメント

■竹林乃方丈庵の主から■

・いつも拙文を読んでいただきありがとうござます。
・見聞きしたことを独断と偏見で、気ままに綴ったものです。
・自分のために無責任に書き留めたものですから、読み終わったら捨て下さい。

記事の整理棚
禅 (2)
最新の30の記事
月別の過去の記事
08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   09   08  
単語による記事検索
竹林の過去の戯言のタイトル

過去の記事タイトルを100件づつ表示します

記事へのコメント
  • 終戦の日の前後のテレビ番組
    アジシオ次郎 (08/22)
    こんにちは。

    毎年この時期は戦争にちなんだドキュメンタリー番組をやるけど、NHKが積極的にやるのに民放はニュースでミニコーナー程度しかやらないと言うのはどうか
  • 安倍内閣改造
    竹林泉水 (08/08)
    > 一強なのに天狗になって周りを見ない姿勢のせいで支持率が低下したのに、それを教訓にしないようでは自浄能力がないというか学習能力がないと言われるだけです。ア
  • 安倍内閣改造
    アジシオ次郎 (08/05)
    こんにちは。

    お友達内閣と揶揄された反省から、今回は異なる派閥からすすんで入れた改造内閣、バランスいいとはいうものの、女性閣僚が2人だけというのは男性優位色が
  • 見ざる聞かざる言わざる
    竹林泉水 (07/30)
    いつもコメントありがとうございます。
    三猿の教えは、子どもより大人の方が三猿について考えないといけないでしょうね。

    一つのことしか知らない大人になるのは、人それ
  • 見ざる聞かざる言わざる
    アジシオ次郎 (07/26)
    こんにちは。

    周りをよく見る・すすんで自分の意見を言う・人の話を聞く。当たり前の常識だが、子供に説くのも大事だが大人も改めてそれを認識してそれに基づく正しい行
  • アベ政治はクーデター
    竹林泉水 (07/19)
    政権を握っているのでクーデタだと言えるのでは

    しかし、安倍晋三の頭の中の辞書には、民主主義の言葉はあるが、政治家としての誠実さをなかなか感じることができないので
  • アベ政治はクーデター
    雲と風 (07/18)
    勉強になりましたが、「安倍政権はクーデター」でしょうか? 権力と威嚇によるテロリズムだと思います。内閣府の中の一派が壊憲と日本の民主主義制度の堕落無力化を共謀し
  • 教育福祉などへの株式参入は
    竹林泉水 (07/12)
    なんでも自由競争になれば、サービスの質が向上すると考えるのは間違いで、鉄道などで見ると都市部はサービスが向上するが、過疎部では反対で最悪の場合は撤退になります。
  • 教育福祉などへの株式参入は
    アジシオ次郎 (07/10)
    おはようございます。

    教育や福祉に株式参入することは、教育や福祉をビジネスに利用しかねないし、アメリカ式の市場主義経済に基づく価値観を正当化しかねないです。た
  • 記事へのトラックバック
    ブロとも一覧

    うたのすけ

    山下道場

    荒野鷹虎

    海空居士

    紀瀬美香

    marihime

    お父さんの旅

    キラベル

    silver camellia

    kbrkのつぶやき

    魚京童!

    俊樹

    アジシオ次郎

    ほんわか?絵日記

    吾輩と旅と副業

    Chronos Moon

    ざっくり読書感想文

    Taiwa Sato

    びとら

    Resale Japan

    QWERT 5w1h

    (o ̄∇ ̄o)♪

    HIROGACHAN+

    しんのすけたろ

    勝ち組の日経225

    ハセッチブログ

    五月雨 時雨

    諭吉

    さくらさくら1
    ブロとも 申請フォーム

    竹林乃方丈庵のブロとも申請はこちらからです。

    Webページへのリンク
    Powered By FC2ブログ

    今すぐブログを作ろう!

    Powered By FC2ブログ

    更新履歴
    今日の暦と天気

    日めくりカレンダの説明

    ■2016年旧暦 日月の出入■

    07 | 2017/08 | 09
    --12345
    6789101112
    13141516171819
    20212223242526
    2728293031--

    ★☆今宵の夜空☆★

    NHKらじる★らじる
    大阪東京第2FM大阪
    何の日



    ご訪問ありがとうございます
    竹林泉水のTwitter
    FC2掲示板
    [ブログ記事へのコメント 掲示板のレス 感想など]
    ■□FC2のブログ□■
    _/_/_/竹林乃方丈庵を_/_/_/
    _/_/_/ リンクに追加 _/_/_/
    □■□■徒然諸諸■□■□ □■□■心の時代■□■□ □■□■息身心/健康■□■□ ----- □■□■厚生福祉■□■□ □■□■その他■□■□
    □■FC2以外のブログ■□
    諸諸 徒然 「身・息・心」 こころの時代
    RSSリンクの表示
    QRコード
    QR