FC2ブログ

竹林の Twitter 新しいウインドウで開きます。

自動機械とAI

自動機械がどんどん進化し便利になったら。

たとえば、車を運転するのには、運転に対して専念義務がある。完全自動運転自動車になった場合、その車に乗車してを使う人には安全に走行・運行されているかを監督する専念義務はあるだろうか。
自動車に限らずすべてのものは、だんだんと便利になってきている。自動車などは完全に人が運転しなくてもよくなるかもしれない。しかし、本当の完全自動運転自動車の実現は、それを運行するシステムやハード面でのインフラなどは、津々浦々まで設置し整備しなければならないので、それまでにはかなりの時間がかかるだろう。
そうなれば、自動運転自動車に搭載する人工知能は、周辺からの情報を得てそれを処理しながら運行されるのではなく、自動車自身が運転をどのようにするか判断する、自律型学習型人工知能の機能を持ったAIの搭載となってくるだろう。しかしこちらもその開発にはかなりの時間がかかるだろう。

また、AIに自律機能や学習機能のアルゴリズムを組み込むことは、倫理的に何処まで許されるだろうか。自律型だから自動車自身が独自に判断して運行をするので、択一のトロッコ問題ではないが、利用者の要望と食い違った場合はどうなるのだろう。
さらに、感情サブルーチンなど、機械と違う類似の機能が実現開発されたとしても可能としても、それをAIに組み込むことは、道義的に正しいだろうか。
召使いロボットが開発され、それに感情サブルーチンを組み込むとどうなるだろうか。召使いロボットが感情サブルーチンにより、最近、指示命令が多いので少々疲れているので、今日は休ませてもらうと勝手に判断して、御主人さまに言ったらおもしろいと思う。
そのようなことにならないために、仕事に対する遵守規範のアルゴリズムの方を優先させるべきだろう。しかし、倫理や道徳や修身などのアルゴリズムが開発されそのサブルーチンを、人工知能に組み込むことは許されるだろうか。逆にそのようなサブルーチンが普及してしまうと、それを組み込まないことは許されるだろうか。

もっとも、感情サブルーチンなどは、SFの中の話だが、それを仮想して考えてみるのも面白いだろう。

人間と人工知能との主従関係

人間とコンピュータとの主人と従者の逆転。
人口知能が高度に発展し、生活のさまざまなインフラシステムの中で使われてるようになてきている。また、会社などでは、仕事のスケジュールなどを事務をする秘書なども、人工知能がその役目を果たすことが可能になってきている。
つまり、人は人工知能に頼る生活をすることが多くなってきている。寝る前に翌日の天気予報を見て、朝起きて再び今日の天気を確認する。しかし、この天気予報は気象庁にスーパーコンピュータが計算して出された気象予報です。言ってみたら気象庁の人工知能に頼って傘を持ってでるかでないかを決めていることになる。

ロビン・モームの小説に『召使』と言うのがある。この小説は、1963年にハロルド・ピンターが脚色、ジョゼフ・ロージー監督した映画化がある。
話の筋は、
イギリスのロンドン貴族出身の裕福な青年トニーが、人材斡旋業の口入れ屋に召使の紹介を依頼する。バレットという男が召使いとしてやってくる。
バレットは有能で、仕事ぶりは鮮やかで巧みで際立つて、トニーも召使としての社会的役割を守り申し分ない召使だと満足し、全幅の信頼をバレットにおいていた。しかし、しだいに召使のバレットは、主人のトニーの生活行動に左右するようになり、干渉をするようになっていく。そして召使トニーがすべてを仕切るようになり、トニーは召使の言いなりになり傀儡になってしまう、主人と召使の主従関係が逆転したようになってしまう。

TVの天気予報に従って傘を持って出かけるか出かけないの有無なら大したことながいが、これが、会社の社長に秘書などがバレットのような考えで、秘書の仕事を通じて秘書が会社を乗っ取っていることになる。
同じように、私たちの生活が人工知能により便利になることにより、自分で考えて判断することよりも、人工知能の出した答えを鵜呑みにして従うようにななってしまう危険性がある。

アメリカのSFTVドラマの「宇宙大作戦」のエピソードに「宇宙に漂う惑星型宇宙船」というのがある。原題は「For the World Is Hollow and I Have Touched the Sky」と非常に長いです。
数万年前に母星の終焉から脱出した宇宙船で、表面を惑星の形状に偽装しいた。宇宙船の乗員は母星から脱出して何百世代もたっていたので、自分たちは母星を脱出新天地の惑星を見つけそこに移住するミッションを忘れてしまっていた。
その宇宙船にはスーパーコンピュータが総てを統括していた。その宇宙船の乗員は何世代も経つうちに、自分たちは宇宙船でなく漂流惑星に棲んでいると思っていた。また、統括しているスーパーコンピュータを神と信じ、そのスーパコンピュータのの出す判断を、神からの預託と信じ、スーパコンピュータのアクセスするナティラを預言者とし、乗員である就任はああああナティラの言葉に従って生活をしていた。

ロビン・モームの『召使』のトニーを人工知能に置き換えてみたり、スタートレックの「宇宙大作戦」の『宇宙にに漂う惑星型宇宙船』のスーパコンピュータなどを、これからの人工知能に置き換えて考え見て、これから人工知能をどのように考えていくべきだろう。

これからの教育

テレビが世に普及しだした黎明のころ、テレビの登場により、その機能・能力が持っているものを教育に十分に生かして使うことにより、日本人の知性と教養が高まるといわれ、日本の公共放送であるNHKは教育テレビ専用のチャンネルを設けた。しかし、テレビ番組にバラエティ番組が登場すると、その多種多様性から、軽薄な内容から一億総白痴化が危懼された。
いま、パソコンのウインドーズが登場しインターネットが普及しだし四半世紀になる。インターネットも当初はテレビが登場したときと同じように、その効果他期待された。しかし、誰でもがインターネットにアクセスできるようになり、その質は次第に低下していき、SNSが広く使われるようになり、フェークが簡単に拡散するようなりますますひどくなってきている。
しかし、コロナ禍で外出が制限さたことにより、インターネットを使った、遠隔会議や遠隔授業が行われるようになり、新しい教育の方法が模索されだした。またリモートの遠隔行事や催しが誰でもが気軽の行われるようになってきた。今後私たちはこれらの、ICT技術をどのようにつかうのか、テレビが登場したころ、教育の質が向上すると期待されたが、逆にバラエティ番組などにより、一億総白痴と呼ばれるたりしたが、この技術をそうならないようにしたいが、今までは時間をかけて徐々変化したり移行してきたが、それが一挙に変わろうとしているが、私たち個人個人がその変化に、心のめんで対応適用していけるだろうか。

これからのAI と ICT

これからのAI  ICT
現代社会、産業経済を押し進めているのは、新自由主義や欲望の資本主義にもとづいている。それにより、私たち人間は、より便利により豊かにならなければならないと信じている。そしてそれらを実現するために、AI(Artificial Intelligence)人工知能とICT(Information and Communications Technology)情報通信技術の進化は、不可避としてさらに発展していっている。しかし、それは社会を人を、非人間化を推進する原動力になっていることに気がついてはいるが、その行方の舵を変えようとはしな。この、AIとICTは、自律型学習型人工知能とビッグデータが結びつき連携され、それにより作り出され、決められた秩序が一見公正で道理に合っているかに見える。しかし、それらに対して一人の人間として立ち止まって改めて考えてみると、理不尽で不条理で不公正なところが多々あることに気がつくはずだ。

コロナ禍で移動や外出が制限され、AIやICTの活用が奨励され、多くの人が使いだしその便利さに注目をしている。今後それらの技術は、より使いやすく便利になるだろうが、コロナ禍がなければその技術革新は徐々に進むはずだった。しかしこれを期に一気に進み世の中が変わってしまうだろう。しかし、私たち人間の一人一人がその技術革新の変化に対して、人間として思考や感情がついて行くことができ、それに対応できる物事を支える根本となる理念が作れるだろうか。

これらの変化に取り残された人は、人間としての尊厳を持ち続けたことにより役立たずの人間となるのか、、魂をAIとICTに売り渡して優秀な人間として生き延びて行くのか。
人類にとって大きな岐路になるだろ。その中で自分は自らどの道を歩んで生きていこうか。

コロナ禍後の、ICT

コロナ禍後の、ICT(Information and Communications Technology)情報通信技術の活用はどのように変わるだろうか。
COVID-19の世界的な感染拡大により、世界の多くの国では、今までの働き方や人との繋がりの方法が、急速に変わろうとしている、このことは、COVID-19禍が過ぎてももとには戻らず、その利用が広がり普及し定着するとみられている。
インターネットを利用したオンラインのテレビ会議や、テレビなどで今まで直接会って行われていた、対談や鼎談などが遠隔でできるようにリモートでなされている。

また、海外の国では、スマートフォンのアプリや位置情報を利用し、ビッグデータとして分析され、感染者が2m以内に近づけば知らせてくれるアプリや、スマホを持っている人の動静が把握されるものなで、ウイルス感染拡大防止に役立つものんどが開発されている。また日本でも経済再生担当相が、アプリの開発を複数のソフト会社に依頼していることを明らかにしている。ウイルス対策なら厚生労働省が管轄ではないかとおもうが、何故か経済再生担当相ですこれも国民の保健衛生よりも経済の優先のためだろうか。そうなればこの開発依頼しているアプリはウイルス対策だけではなく、他のことにも利用することを考えていることになる。
このコロナ禍後にあらわれる、ICT情報通信技術が私たちの生活のなかに、それぞれの人が自覚しないままに、浸透していき活用されるようになる。それはまるで、サイレント、ステルスウイルスのようにいろいろな製品に組み込まれていくだろう、そしてそれらの製品を使うことにより、個人の行動データなどが蓄積され、それをビッグデータとして活用し新しい産業が生まれるのだろう。しかし、それは生きた人間の個人としての尊厳が呑みこまれてしまわないかと思う。
スマホのGPS機能やカードの決裁履歴や、SNSなどのイイネや発言などのデジタル情報のビッグデータは、一人の個人が忘れていることも正確に詳しく記録されると言う。また、他のデータと参照し分析をすることにより、今後特定の人の行動まで予測できるという。そうなれば、しらないうちに自覚をしないうちに監視社会に呑み込まれるしまう恐れがある。
このコロナ禍の後の世界がどうなるか、波か列車か自動運転車かわからないが、それに乗るかあらがうのか。あらがったらこれからの社会を生きていけるのだろうか。

禁断のIT・AT・科学技術

科学技術の革新が進み、新しい発見と発達をしている。そのなかで、原子爆弾のようなパンドラの箱をあけてしまうようなものもある。それに対してどうあるべきか。まずは科学者そしてそれを実用化させる技術者、そしてそれを使う企業や軍人、そしてそれを利用してさらに社会役に立つように制度を作る政治家がいる。
それらの人は、どのような心構えでいるべきだろうか。

・科学者としての責任感と科学探究への欲望と社会貢献と倫理観
・技術者としての責任感と技術開発への欲望と社会貢献と倫理観
・商業者としての責任感と利益追求への欲望と社会貢献と倫理観
・政治家としての責任感と統治への欲望と政治信条追求への欲望と社会貢献と倫理観
・軍士官としての責任感と軍事力への欲望と軍隊の社会貢献と倫理観

この問題で一番わかりやすいのが、兵器開発でその中でも核兵器と言えるだろう。
しかし、兵器以外でも遺伝子組み換えや、スーパーコンピュータの演算速度を上げることや、人工知能の開発で自律型学習型人工知能での開発にもいえるだろう。

これらの人がパンドラの箱をあけるような、暴走を防ぐには、それぞれの科学者や技術者や商人や政治家や軍人の性善説の倫理観にまかせていては、暴走をとめられない。
そのためには、予防原則という考えを取り入れる必要がある。予防原則とは「一般公衆の健康や環境や安全などに、悪影響を与える可能性がある問題について、それを警告するものには立証責任はなく、それを実施しようとする者に全責任を負う」。
また、私は理論を打ち立てただけだとか、私が開発下だけだ、それを使い実行していないとして、その責任を逃れようとするのは許されるだろうか。

いままでいろいろなものが発明され開発され技術が進歩してきている。核爆弾のように、技術が一端出来上がると、その技術は広まり始める。核爆弾をみるとアメリカは第二次世界大戦の時に、ドイツが核爆弾を開発するのではと、各開発を国全体を挙げて進めた。そその後ソ連が開発に成功し、イギリス、フランスも開発を成し遂げ、次いで中国と続き、今ではインド、パキスタンが核を保有し、北朝鮮も開発に成功している。このほかイスラエルも核爆弾を持っているといわれている。さらに日本はすぐにでも核爆弾をもてる技術があるとされている。
このように一端出来上がると広がってしまうものです。もっと身近なものでいうと、今までなかった家電製品が一つのメーカーが出すと、しばらくすると多くのメーカーが同じような製品を市場に出すようになる。
それが民生の家電製品ならよいが、原爆のように私たち人類の未来の明暗を左右するものもある。

遺伝子編集や、AI技術などの人工知能やロボット技術また、インターネットやスマートフォンなどのITの情報技術革命などの技術であるが、それらはウイルスの拡散が止められないように、一度わたしたちが手に入れ使い出すと、一挙に広がりだし止めどもなく広がてしまう。
そして、その中の多く
様々な禁断の技術があり、現代社会はそれを抱えている。それに対して私たちはどれだけ向き合っているだろうか。いや向き合っているというより、それぞれの様々な禁断の技術の問題にについての情報を知っているだろうか。

私たちの食卓にならぶ、牛肉の牛がどのように育てられ、どれほど飼育され屠畜されているかを教えられず、気にしないように、スターバックスで飲むコーヒーの味だけを楽しみ、そのコーヒーが何処でどのように栽培されているのかを知らないで気にもとめないように。今の、禁断の技術が日夜研究開発されていることも知らないでいる。
それと同じように、禁断の技術はわたしたち一般の人々にはあまり目に触れることがなく、その技術の研究・開発が進められている。
牛肉やコーヒーは日頃は問題意識を持つことはないが、それでも比較的身近な問題で想像しやすいものです。しかし、自分たちの生活のなかに溶け込んでしまっている、IT技術やAI技術が融合したスマートフォンについて、便利だからどんどん進化していてよいと思ってよいのだろうか。
今度のコロナ禍で、中国や韓国ではスマートフォンで、毎日体温の情報や健康に関する問診の送信を義務づけられ、その人の位置情報を利用して、自分の周辺にどのような健康状態の人がどれぐらいいるかを表示するサービスも提供されているという。
確かに健康に対して気をつかえ安心できるアプリソフトだが、これを利用すれば国民の監視にも使えるようになる。このれからこのような技術がますますこれを期に進むのではないかと思う。

自律型ロボット兵器

遠隔操作の無人兵器は、遠隔操作の無線を妨害されたり、乗っ取られたりするおそれがあるので、自律型の軍事兵器の開発ができないかとの話があると聞く。
現在いたずらドローンを停止させたり確保するために、ドローンを停止させている映像をニュースで見たことがある。それは実験映像が実際の映像かはしらないが、ドローンの乗っ取りはできるようだ。
となると、自律型の無人兵器は乗っ取られる心配がないので有効のように思うが。
敵を攻撃し敵を殺すことを、機械にまかせてよいものだろうか。倫理的な判断をロボットやAIにまかせてよいのだろうか。

アメリカのSFTV映画の、スタートレックのヴォイジャーのエピソードの29話「ユニット3947」では、2国間(2つの星)が戦争しているが、お互いに戦っているのは完全自律型のロボットで、自分を攻撃するものを敵として抹殺するようにプログラムされている。2国は和平協定を締結して戦争は終わるはずだった。和平協定が締結されたので、両国はロボットを停止しようとするが、自分を攻撃するものを敵とプログラムされているので、ロボットはお互いの自国の人間を抹殺してしまう。このような話です。

アンドロイドのロボットは人間を越えるか、優秀なものは自分より劣ったものの価値を受け入れるだろうか。スタートレックの最初のシリーズ宇宙大作戦に「宇宙の帝王」登場するカーンは、人間の知能と体力を遺伝子操作で強化された優生人類だった。やがて優生人類は人間を劣ったものとして、地球を牛耳り地球を支配しよとする。優秀な者はたいがい自分より劣った者を価値のないものとして、支配するか抹殺するかをしようとする恐れがある。
人工知能の自律型学習型AIは、人間の脳を越えられるだろうか、計算能力などは機械であるAIの方が遥かに正確で早いです。また判断力も速く正確でしょうし、作業も速く正確です。
しかし、AIには人間にはあるが、AIにはないものがある。それは、道徳心や倫理観と感情です。簡単な人を殺すななどの道徳や倫理をプログラムできても、広汎な道徳や倫理のアルゴリズムは作れないだろう。ましてや感情などのアルゴリズムなどは不可能だし、倫理サブルーチンなども不可能だろう。無理に人間に近づけて作ろうとすれば、「宇宙の帝王」のカーンのようになるだろう。

現在、人の身体に機械を埋め込むことがされている。人工心臓や歯や関節のインプラントが同様に、脳にICチップを少しづつ置き換えていき、サイボーグを作れると考えている科学者もいるよだ。わたしはそのようなことは不可能だと考えるが。

そのような考えは、フランケンシュタイン博士と同じ考えだ、フランケンシュタイン博士の作った人造人間は怪物とよばれるが、怪物は実は博識で心やさしい人間だが、自分を産みだした博士は自分を見捨てたため、どこまでも復讐のために追いかけることになる。それらのことを思うと、自律型の人工知能をつくることは、パンドラの箱を開けることになるだろう。

監視カメラの新駅

東京の環状線である山手線に新しい駅が設置されたという、その名前は「高輪ゲートウェイ」だというが、この駅、最新のAI技術が使われている。駅の売店では店内に設置されている監視カメラで、客の出入りと商品棚からなにを取ったかを検知し、無人のレジでカードをかざすだけで支払いを済ませられる店があるそうだ。そのほかにも駅構内では監視ロボットがうろうろしていて、道に迷っていそうな人や障害者を検知して、案内したり駅の職員に通報・連絡して助けを呼ぶそうです。また数カ国を理解できるロボってが道案内をしたり、誘導してつれていってくれるそうです。

なんだか、便利なようだが、常に監視されているようなシステムが導入されている駅だ。

今後この高輪の駅のシステムがうまく機能するならば、これから全国の駅に使われていくだろう。そればかりだけでなく、人が集まる商業施設や、人の移動の多い道路や通路など、全国各地で使われるようになるだろう。
なんだか、今の中国の都市の監視システムが、日本の至る所に作られていくのだろうか。

原発労働者の被曝

3月11日は、東日本大地震あり、福島の原子力発電所に巨大津波が襲った日です。それにより、原発の全電力が消失し原子炉を冷やすことが出来ななり、水素爆発をお越し原子炉が破損してしまい、大量の放射線物質を大気中にまき散らしました。

現在、東京電力の福島原発だけでなく、全国の原子力発電所の、その現場で働いているのは、東京電力の社員や直接雇用した労働者ではなく、下請け労働者でその多くは孫請け曾孫請けなど数次の下請けの日雇い労働者と聞きます。そのため、現場の労働者の追跡調査ができず、現在それらの人の中には現在どこに住んでいるか、生死すらわからない人が多くいると言います。

事故を起こしていない、平時の原子炉も定期点検があり、その原子炉のなかに労働者が入り作業をしている。その現場は密封した空間で、防護服とマスクを着ているが、すぐに被曝許容値を越えてしまう。防護服とマスクのため暑いので作業がしずらいので、マスクを外す作業労働者が多い。また放射線の線量計もすぐにアラームがなり、作業ができないとの線量計を止めたり放射線のない所に預からる人もいるという。
これは、事故を起こしていない原子炉での作業のありさまです。

現在、福島の原子炉は解体するための作業が進められているが、その様子とその実態は一切現在人々にはしらされていない。

どんな状況に現在なっているのだろうか。

東北の復興の様子と同時に、原発事故の現場の現状をありのままに知るのは、これから、原発で発電された電力を使う私たち日本国民市民、そして世界各国の人々の権利だと思う。是非とも継続的に、原発労働者の現状を多くの人に知ってもらうことは大切だろう。

筑豊の炭坑工夫の山本作兵衛の記録画記録文書のように、それを記録として残すことは、未来に人々にとって貴重なものになるだろう。

スマホでの管理社会

ニュースを見ていると、新型コロナウイルス(コビット19(covid-19))で、各国のその拡散予防の対策を照会していた。
そこで、中国であるサービスが始まっている。携帯通信会社が、スマホを持っている人が過去に何処を訪れたかの履歴が、スマホ画面に表示されるサービスを始めている。
そこで、中国では施設に入る時に、その訪れた場所の履歴を表示させ、係員に見せて自分は特定の地域に行っていないことが
確認して、その施設に入場が許可されことが実施されているようだ。

このスマホ保持者の行動履歴がわかるシステムは、中国だけでなく日本でも直ぐに実現できる技術です。犯人などの行動履歴を追跡したり、また誘拐事件などが起きたとき、時よりそれが使われ、犯人の逮捕に役立っていることがニュースで伝えられる。しかし、通信会社は行動履歴の情報提供は、日本では裁判所の許可がいる。また、保護者が子供の安全を確認するためにパソコンやスマホで我が子がいまどこにいるかを把握する技術はすでに使われているようだ。
今回の中国の通信会社のサービスは、自分のスマホの画面に表示されるものだが、これらの技術が国民の監視のために利用されないとも限らない。

これは、中国のことだけでなく、世界中の国々でも使いようによっては、国民の監視に使われれる恐れもある、いやすでに使われているかもしれない。
カーナビのGPSやスマホは便利りです、カーナビなど便利過ぎて、土地勘が衰えたりドライブするときの道を探す楽しみなどが疎かいなってしまうので、わたしはあまり好きではないです。これからテクノロジーがますます親かして、国民へのサービス向上のためだと言って民衆の管理が強化されてて行きそうだ。そして、この中国にコビット19のスマホ通信会社のサービスを知って、それだけでなく知らないうちに管理社会がますます浸透していき、自らが知らないうちに管理社会の海に飛び込んでしまうのではないか感じる。

AIが神になるか

AIが神になるか

技術的な進歩は、狩猟採取社会は貧富の差はなく平等だったが、農耕社会は仕事の分担を作りだし貧富を作りだし、ヒエラルキーを作りだし、政治が生まれ人々の生活が変わっていった。そしてさらに技術が進化すると、政治の統治の仕方をも変えていった。現代ではAIの技術で、いままで以上の革新が起こり、AIh神の力のようになってしまう恐れがある。

少し前の時代の人が、タイムスリップして現代の進んだごく一般的な文化的なをものを見て、どう思うだろうか。特権階級のごく一部の人の生活だと感じるのではなく、その人たちを神だと感じるのではないだろうか。
江戸時代以前の人が、現代の水道やガスや電気などのインフラを見ると、それは魔法にように見るだろう。ましてやもっと遙か以前の、狩猟採集時代の人は、それを扱う人は神のように見えるかもしれない。
そのような時代に生きている人がもし現代にタイムスリップして、彼らの時代では病気などにかり死んでしまう病気も、現代では入院もしないで完治する病気がいくつもある。それを見てそれを治す人は、医者ではなく神のように見えるのではないだろうか。
その原理や法則などを知らない人や、初めて見る未知のものに対して、偉大なものとして畏れ、敬いもったいなく感じるのではないだろうか。

狩猟採集時代から、農耕社会の時代になてもそれはほぼ同じだろう。いや初期の農耕時代の人は狩猟採集時代の人よりそれをより強く感じるのではないだろうか。農耕時代になるろ、麦や稲を育て家畜を飼育するために、狩猟時代の人より知識の蓄積ができ、自然のなかに自分たちでは物事の筋道がわからないことがあることを体験があり、未知への畏敬あるだろう。

文明が生まれる前の農耕時代では、田畑を耕し、種を蒔き、雑草を刈り、収穫したり、家畜を飼い餌をやり、牛の乳を搾り、鶏の卵を採り、植物から糸を紡ぎ布を織る。柴を刈ったり薪を割ったりし、木の実や肉を焼いて食事をつくった。やがて土器を考えだし、煮炊きをして食事をつくる。これらは、一万数千年前に始まった初期の農耕時代の社会では、数千年つづいたが、その集落の住民はみな関わっり、生活の大半はそれらの活動が占めていた。それが時代が進むとしだいに人々の仕事は、分担され分業化していく。それにより狩猟時代や初期の農耕時代は、それぞれの人がすべてのことを知っていて行なうことができた。しかし仕事の分担により分業化され、在ることはできるが他のことはできない人が出てきた。

日本でも150年程前の農村の人々は、多くのことが自分たちだけでできていたが、近代化が進むにつれ効率化が求められ、分業化が進み作物の生産性は上がったが、自分たちだけでできることが少なくなっていった。
現代と70年程前を比べてみると、田畑を耕すのに人力や馬や牛を使っていたが、いまは耕運機で短時間でできるようになった。収穫も多くの人の共同作業で稲麦を手作業で刈りとり干して乾燥さ脱穀していたのが、いまはコンバインで刈取りから脱穀の最終作業までしてしまう。
いままで、手作業でしていたことが、すべて機会がしてしまう。それによい手作業でどのようにしたらよいかがわからなくなっていく。これがあらゆることで起き出すだろう。
そうすれば、機械は自分たちが知らないことをしてくれるブラックボックスになり、それは神になる。その予兆はすでに始まっている。
私たちは日常生活をするのに、さまざまな便利な機械を使っているが、その使い方を知っているが、その原理をほとんどの人は知らない。また、その機械をつく人や設計した人も、その機械をすべてを知らない。
また、私たちの生活を支えているインフラもどのようなシステム化を詳しくしらない。先にもかいたが昔の人がそれを見ると、神の仕業のように見えるだろう。
私たちは、もっとAI技術が進み便利なものが出現するとそれが当たり前にないり、人間は深く考えにようになるのではないだろうか。

主人は人間かAIか

チャールズ・M・シュルツの「ピーナッツ」が河出書房新社から、1950年~2000年を全25巻で出版される。全巻買うと7,0000円する。それはともかくそれを聞いたので、私が持っている「とっておきスヌーピーVol2 谷川俊太郎訳 産経新聞ニュースサービス」を開いてみた。

そこに次のようにあった。
2コマで1コマ目
チャーリー・ブラウンが、「I WONDER WHAT IT WOULD BE LIKE IF OUR ROLES WERE REVERSED ..(もしぼくらの役割が入れ替わったらどうかな・・)」
2コマ目
チャーリー・ブラウンが「WHT IF YOU WERE THE MASTER ANDE I WERE YOUR DOG?(もし君が主人でぼくが犬だったら?)」
スヌーピー「・・・ I THOUGHT I WAS THE MASTER...(ぼくが主人だとばかりおもってたけど・・)」

このピーナッツの他のマンガを読んでいても、このようにスヌーピーはもともと、自分自身が犬だとは思っていないようです。
最近の、SNSなどで投稿される、犬や猫をの動画をみているとまるで自分は犬や猫ではなく、人間と同等の生き物だと思っているような動画を見かけます。

さて、現代の飛躍的技術進歩が進むIT技術は、進歩と言うより進化といって言えるようなところがあり、それには恐ろしさも感じるところがある。このスヌーピーのように、AIやロボットが自分の方が人間より優秀だと感じるいや判断するとどうなるだろうか。

コンピュータは人間よりはるかに計算スピードが速く性格です。またいろいろなことの判断をするのに、人間は感情に左右されたり、恐怖にさいなまれ判断ができないこともある。しかしコンピュータはそのようなことはない。

また、人間はAIが進化し完全になればなるほど、AIに全幅の信頼を置くようになる。そして人間は自分で判断をしなくなるだけでなく、自分で考えなくなっていく。現代でも、ご飯を炊くのは炊飯器で炊くよういなり、最近の炊飯器は、炊き込みご飯やお粥など、いろいろな炊き方ができるようになっている。洗濯も全自動洗濯機がありいろいろな洗濯方ができるようになっている。昔なら、ただふつうのご飯を炊くのでも、いろいろ火加減を調節していた。洗濯も、洗うもににより洗い方を変えて洗っていた。今はそのようなことを考えずスイッチボタンを押すだけでなにも考えない。「始めチョロチョロ、中パッパ、赤子泣いても蓋取るな」など、今の人にはなんのことか分からなくなってきている。なにも考えないでいるだけです。

そのようなことが続いていくと、進化した自律型学習AIはまさに、スヌーピーのようにAI自身が主人だと考えるようになるおそれがあると考える。

人工知能に感情を持たすのとロボット兵器

AIに感情を持たすことが出来るだろうか。
もし、自律型学習AI自動車に感情を持たせると、車の所有者が会社の出勤しようと車に乗り行き先を言うと、今日は天気も良いので山にドライブに行くと言い出すかもしれない、また最近のスマホはバイオサインを感知でき、それを分析し健康状態を診断出来るものもあると聞く。もし、車の座席にそのような機能をつけるとどうなだろうか。車の所有者が座席に座り会社に出勤すると、行き先をつげるが、車は座席のセンサーが「ご主人さま、今日は血圧が高く心拍もよくないです、いまから病院にいきます」とつげ、会社でなくかかりつけの病院にいくと言い張るかもしれない、いやむりやり病院に連れ込んでしまうかもしれない。
後者ならまだいいが、前者ならAIに感情を持たせたり、自律性を持たせることは本当によいことだろうか。
AIに感情を持たせるのはだいぶ先のことか夢物語だろうが、自律性を持たせるのはそう遠くないことらしいです。
これが、自動運転自動車ではなく、他の家電に組み込まれたAIや産業ロボットなど他のものだとどうなるだろうか。
テレビに組み込まれると、テレビを見ようとすると、最近あなたはお笑い番組ばかり見ている、そのようなことではだめなので、ちょうど今よい番組があるからと、NHKスペシャルの教育ドキュメント番組を見なさいと見せるかもしれない。
いや、中国などのような監視社会になれば、政府に意向に添ったプロパガンダ番組を見るよう、強要してくるかもしれない。

いや最近は、兵器に人工知能を搭載させ無人で遠隔操作でなく、基地を飛び立つと指令を受けたミッションを果たすまで、司令部の信号を一切必要としない兵器の開発も進んでいるという。この場合、その自律型人工知能兵器は隠密行動をするので、作戦の実行中に逐一その状況を司令部に報告すれば、敵側にロボット兵器の位置を知らせることになるので、兵器と指令部との通信は一切しないだろう。つまり、指令部は作戦がどのように遂行中かを把握出来ないだろう。万一不測の事態になった場合はどのようになるのだろうか。一ついえることは、作戦中止の命令を出し、自爆させるか、帰還する命令しか受付ないことになるのだろうか。しかし、それは指令部が状況が変わったと判断できるときで、ロボット兵器が異常をきたしたときは手のつけようがないのではないだろうか。戦争までロボットに頼りすぎては危険といえる。
しかし、逆の考えをする人も多い、人間の兵士を使わないので、人道的だと主張する人もいる。それは本当に人道にかなったことだろうか。

自動運転車が進化したときメカーは

自動運転自動車の運転操舵と制動を掌るAIのアルゴリズムに対して事故が起きたときAIにその責任を問うことに対して、自動運転自動車の製造メーカーは同意するだろうか。たぶんトヨタや日産などは同意しないだろう。なぜなら、トロッコ問題をだれもが納得できる解決をする事はできないからです。
そうなれば、自動運転自動車の製造メーカーはどのようなことを望むのか。自律型学習AIの判断は正しく、それに従うことが正しいこととするために、AIは絶対で正しいとする法律の制定をのぞくかもしれない。
なぜなら、人間の裁判官は偏見や誤りなは免れないおそれがあるが、AIである人工知能はプログラムに組み込まれた倫理アルゴリズムにより判断するんで、偏見や誤りがないからだと主張かもしれない。
このことはないを物語るのか、またこれかさきますますAIの技術が進化し高度化していくと、人間の判断よりもAIの方に任されていく。現に株式など証券取引などは、AIの計算に任されて取引され、金融面では、1秒の何千分の1の差で取り引きされている。最近では企業の入社試験の採点だけでなく面接にも使われていると言う。中国では至る所に監視カメラが設置され、市民の動向が監視され為政者・統治者が活用しているともいう。

人口知能の自動運転車の問題で、そのプログラムが正しいからそれに従えと法で定められれば、A車の車とB車の車が交通事故を起こせば、それは誰が裁くのだろうか、人間の裁判官はそこまで、自律型学習AIについての知識をどこまで専門知識があり判断が出来るだろうか。そうなれば、人口地知能裁判官登場し判決を下すようになるかもしれない。
人間の裁判官のもとにA社、B社の人間が袖の下や上げ底の重い菓子折りを持っていくかもしれないので、どれが人口知能の裁判官なら、そのようなアクセスがあった途端に、それを不正とし告発するから不正は起きず公平だと言うことになる。
しかし、本当にそれでよいのだろうか、人間が一切介入しなくても・・・。

トロッコ問題と自律型学習AI

トロッコ問題と自律型学習AI自動車

自律型学習AIはトロッコ問題を解決出来るのか。
トロッコ問題は人間にとっては永遠の課題であり判断も解決も出来ない。究極の択一に対して人間は最終的に、理性や倫理観や恐怖心やひらめきなどを使って考察するなどして決断を下す。しかし決断を下すとき下した後、さまざまな葛藤にさい悩まされたりするが、それを乗り越えて次のミッションやシフトをこなす。では、自律型学習AIを搭載した自動運転自動車はどうだろうか。

 *トロッコ問題とは、哲学者フィリッパ・ルース・フットが提唱した課題で、「人間が道徳心から生まれるジレンマにどう対処するのか」倫理学の思考実験問題。線路上を走るトロッコが制御不能になり、そのまま進むと5人の作業員が確実に死ぬ、5人を救うためにポイント(分岐点)を切り替えると1人の作業員が確実に死ぬという状況下で、線路の分岐点に立つ人物はどう行動すべきか。

自動運転自動車がこれと同じような場面に直面すると、自動運転自動車はどのように自動車を制御するか。
目の前に子どもが飛び出してきた。このままでは子どもをハネて轢いて殺してしまう。それを回避するには対向車線にハンドルを切るしかない。しかし、対向車線は大型トラックが走ってきている。それでは車は大破し乗っている車の所有者は死んでしまう。しかし、車の所有者は寝ているので緊急事態に気がつかない。もう一つの回避方法はハンドルを反対側に切るしかない。しかし、こちら側は断崖絶壁で転落すれば、自動車は大破し乗っている人も死ぬ。
この場合、自動運転自動車のアルゴリズムはどのような判断をするだろうか。
子どもの命を優先すれば、自動車は大破し車の持ち主や死ぬ。自動車の持ち主の命を優先すれば、子どは死んでしまう。
また、飛び出してきた子どもが一人の場合と二人の場合によって、自動運転自動車のアルゴリズムの判断は変わるのだろうか。
また、轢きひき殺してしまうおそれがある人が、年老いた老人と若者だと違うだろうか。その人が身なりが整っていて社会的地位が高そうな人か、粗末な服装でみすぼらしい人とではアルゴリズムの判断はどう違うだろうか。
これらは、基本的に自動運転自動車のアルゴリズムをプログラムしたプログラマーがどのようなアルゴリズムをプログラミングするかによって変わってくるだろう。
このような事故が起きた場合、その判断の責任は車の持ち主か、自動運転自動車の制御アルゴリズムを書いた人にあるのか、自動運転自動車のアルゴリズムにあるのか。また、学習型の自動運転自動車ならプログラムは自分でアップデートしているなら、そのときその責任は誰にあるのか。この場合には裁判に持ち込まれた場合、裁判官はどのように判断するのか。
また将来、裁判がAIで行なわれるようになった場合、AIは人間側に立った判決を下すのだろうか。

アメリカのテレビSF映画「スタートレック」の、ヴォイジャーの医療用フォログラムドクターは、瀕死の重体の二人のクルーを治療し救うのに、二人のうち一方を選ぶ選択を迫らる。しかしドクターはプログラムのループに陥り機能不全になってしまう。このように、自動運転自動車のアルゴリズムも、択一を迫られたとき、ドクターのように機能不全になり、自動車運転が出来ない状態になった場合、自動車の運転は誰がするだろうか、いや、自動運転自動車のAIは車を停止させ止まってしまうかもしれない。車の持ち主は安心して眠ってしまっているのだ。

無用な人間

相模原の津久井やまゆり園で、殺傷事件が起きたが、犯人は「意志疎通が出来ない人は無用な人間だ」として殺害したという。
重度の障碍者のなかには、自分の意志を表現するのが、はなはだしく苦手な人もいる。言葉や身振りや手振りなどではなく、わずかな表情の違いでそれを表現している。しかし、それを受け取る側がわからない場合も多い。津久井やまゆり園の犯人は、それを受け取ることができなかった。普通なら自分の受け取る側の未熟だと考えるのだが、それを、意志疎通が出来ない人は無用な人間だと断定している。
人間は自分が他の人より優秀だ賢いと思うと、他の人を身る目が変わってくるだろうか。なにが他人より優秀かによって変わってくるだろうが。人によって違うだろうし、なにが優秀かによっても違いがあるだろう。頭の善し悪し、運動能力の高さ、容姿の良し悪し、器用さの良し悪しなどだが、ここでは、頭の良し悪しについて考えてみる。頭の良し悪しと言っても、記憶力がよい、計算力がある、思考力がよいなどあるが、とりあえず一般的に頭がよいの良し悪しのことで考えてみる。
思考とはなにか、経験や知識などにもとづいて、推理などの論理的判断で、対象の本質を思い巡らし見抜くことだが、人工知・IT技術では、人間の頭のよさについての、対になる考えはどのようなものだろうか。

テクノロジーが進化し、さまざまなことがテクノロジーによって、こなされるようになってきている。それにより多くの雇用が奪われ社会問題になりつつある。雇用が奪われれば多くの人が、働けずそうなるとハラリは「無用な人間」生まれてしまうとハラリは『ホモゼウス』で警鐘している。
IT技術が進み、さまざまの仕事や労働がロボットがするようになり、さまざまな管理がスーパーコンピュータがこなすようにな。そしてそれらの人工知能が、自律のアルゴリズムを持った学習型ロボットになり、さらにそれらが感情が持つようになり、そこに倫理観が欠如していたらどうなるだろうか。管理ロボットが、この人間は「無用な人間」とラベルを貼ってしまうと。その後そのロボットはどうその人間を処理し、その人はその後どうなるだろうか。
SFの世界では、人間よりコンピュータの方が公正で正確だとして、人間の管理をコンピュータに任せてしまい、何世代か時がたつと、人間を管理するコンピュータの装置を、神の神殿と思うようになり、何事もその神殿にお伺いを立ててものごとを行なうようになる物語がある。その時、管理官の神であるコンピュータの出した結論である神託をどのように受け入れるだろうか。
古代の世界では、神の言葉を預言する預言者がいたが、自然の畏れを賜る預言者は人間だった。しかし、そのSF小説の施政界では、神の人間のあいだ、コンピュータと人間のあいだには、何も介在していないことになり。コンピュータが下した結論が絶対的なもになってしまっている。それに対して不審を抱く人は異端者として排斥され削除されてしまうことになる。

30年後の世界が、IT技術が進み、人間は人の判断よりコンピュータが出した判断の方を信用するようになるとどうなるだろうか。ロボットのアルゴリズムには、学習してプログラムを改良していくものもあるが、「無用な人間」判断した後、どの用意処理していくのだろうか。ヒットラや津久井やまゆり園の殺人犯のように、「やくたたず人間」「無用人間」を、どのように養ていくのか、どのような処分をするのだろうか。
これは、コンピュータのアルゴリズムをどのように作るかによって変わってくるが、コンピュータ自体が自律型で学習型だと、学習により何代かアップグレードされると、人間のプログラマーはそのアップグレードされたアルゴリズムの善し悪しがわかるだろうか。
■竹林乃方丈庵の主から■

・いつも拙文を読んでいただきありがとうござます。
・見聞きしたことを独断と偏見で、気ままに綴ったものです。
・自分のために無責任に書き留めたものですから、読み終わったら捨て下さい。

記事の整理棚
禅 (2)
最新の30の記事
月別の過去の記事
09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   10   09   08   07   06   05   04   03   02   01   12   11   09   08  
単語による記事検索
竹林の過去の戯言のタイトル

過去の記事タイトルを100件づつ表示します

記事へのコメント
  • 臨時国会の開催はいつか
    風と雲 (08/04)
    一体今の日本はどうなってしまったのだろうかと思う。アベ内閣も与党も憲法に違反することを完全に無視して悪びれもせず堂々と実行してきた。、政府高官も最高裁も報道機関
  • 難病と尊厳死
    竹林泉水 (07/29)
    コメントありがとうございます。

    自ら生きる権利、自ら死ぬ権利があるのはよくわかります。
    それにはどちらも人・個人としての尊厳が保たれている必要がある考えます。
  • 難病と尊厳死
    風と雲 (07/28)
    意識して自ら命を絶つことができるのは人間だけだと思います。人には生きる権利と自由があるように、自らの命を絶つ権利も自由もあって然るべきではないでしょうか。このA
  • 不自由な国、日本
    アジシオ次郎 (07/01)
     自分よりも周りを優先する集団主義的な考えが同調圧力などがまかり通る社会なことについて前に
    >日本的なこの価値観は、海外から見たら奇異の目でしか見られないでしょ
  • 不自由な国、日本
    竹林泉水 (06/29)
    日本語に「世間」と言葉があります。「世間体が悪い」「世間がうるさい」「世間を渡る」「世間に顔向けできない」「世間の目を気にする」「渡る世間に鬼はいない」などとつ
  • 不自由な国、日本
    アジシオ次郎 (06/27)
     おはようございます。

     日本はやはり集団主義が根強い社会であり、いわゆる「ムラ」社会的価値感が強い為に変に「和」を重んじる傾向の上に上の言うことは絶対だという
  • 人種差別抗議行動への共鳴が日本で起きないのは
    竹林泉水 (06/26)
    なんで日本人は欧米人に対してコンプレックスを持っているのだろうか。明治政府は今までの幕藩体制をぶっ壊し廃藩置県をし、国内の不平不満のエネルギーを外に敵を作ること
  • 人種差別抗議行動への共鳴が日本で起きないのは
    アジシオ次郎 (06/25)
     こんにちは。

     日本人は長年欧米コンプレックスを抱いたせいで白人に対して好意的に見る一方でアジア人や黒人を平気で見下すような傾向が強いけど、自分たちが置かれて
  • 長期政権
    アジシオ次郎 (06/24)
     おはようございます。

     長期政権がもたらすもの、それは腐敗と閉塞感以外の何物でもないが、一人の人間が十何年、何十年と居座ってては健全さなど皆無だし、変化を知ら
  • 記事へのトラックバック
    ブロとも一覧

    うたのすけ

    山下道場

    荒野鷹虎

    海空居士

    紀瀬美香

    marihime

    お父さんの旅

    キラベル

    silver camellia

    kbrkのつぶやき

    魚京童!

    俊樹

    アジシオ次郎

    ほんわか?絵日記

    吾輩と旅と副業

    Chronos Moon

    ざっくり読書感想文

    Taiwa Sato

    びとら

    Resale Japan

    QWERT 5w1h

    (o ̄∇ ̄o)♪

    HIROGACHAN+

    しんのすけたろ

    勝ち組の日経225

    ハセッチブログ

    五月雨 時雨

    諭吉

    さくらさくら1

    不思議な不正義2
    ブロとも 申請フォーム

    竹林乃方丈庵のブロとも申請はこちらからです。

    Webページへのリンク
    Powered By FC2ブログ

    今すぐブログを作ろう!

    Powered By FC2ブログ

    更新履歴
    今日の暦と天気

    日めくりカレンダの説明

    ■2016年旧暦 日月の出入■

    08 | 2020/09 | 10
    --12345
    6789101112
    13141516171819
    20212223242526
    27282930---

    ★☆今宵の夜空☆★

    NHKらじる★らじる
    大阪東京第2FM大阪
    何の日



    ご訪問ありがとうございます
    竹林泉水のTwitter
    ■□FC2のブログ□■
    _/_/_/竹林乃方丈庵を_/_/_/
    _/_/_/ リンクに追加 _/_/_/
    □■□■徒然諸諸■□■□ □■□■心の時代■□■□ □■□■息身心/健康■□■□ ----- □■□■厚生福祉■□■□ □■□■その他■□■□
    □■FC2以外のブログ■□
    諸諸 徒然 「身・息・心」 こころの時代
    RSSリンクの表示
    QRコード
    QR