What if AI governs the world?・AIが世界を支配したらどうなるの？

Hi. Everyone! I found an interesting video on BBC IDEAS. What do you think would happen to us if the machine dominates us? Ethics and feelings are essential to soothe human relations. A computer doesn’t have both ethics and beliefs: it would never tear and encourage people sincerely. If a machine makes a mistake, the world could become a catastrophe. Let’s listen to the story.

こんにちは！　BBC IDEAに面白いビデオがありました。機械が私達を支配したら、どんなことが起こるんでしょうね。倫理や感情は人間関係を円滑にするのに大切です。機械には倫理も感情もありません。泣くこともなければ、人を心から激励することもないのです。機械が一歩間違えたら大惨事も起こりえます。では、お話をきいてみましょう。

BBC IDEAS　☜　Click here.

Here’s a thought experiment…..could artificial intelligence govern us? Populism and disinformation are on the rise, and politics across the world seems to be dominated by emotions and strongman personalities. Leaders often seem to be more interested in short-term political gains, then the long-term needs of their electorate. But could machines do a better job? Imagine a world where decisions are made based on impartial facts and data.

ここに一つの思考事件があります。人口知能が私達を支配できるでしょうか？　人民主義とデマがはびこっていて、世界中の政治は感情と独裁者的人格に支配されているように見えます。しばしば指導者は短期間の政治的利益により興味を持っているようです。ですから、長期に渡って有権者のニーズにも応えなければならないのです。しかし、機械がより良い仕事をしてくれるでしょうか？　決定が公平な事実やデータに基づいてなされているような国を見てごらんなさい。

Where the decision makers are unconcerned by scandals, immune to corruption and have no vested interest in maintaining their popularity. A world where climate change is a more pressing issue than the results of the latest focus group. And where global leaders don’t risk instigating World Ware Three, by ranting on Twitter at 02:00 AM. Sound too good to be true? In fact, scientists believe there are no plausible circumstances in which machines would or could, replace governments entirely.

意思決定者がスキャンダルを気にしない国では、腐敗しないし、人気を維持するのに利害環形がありません。気候変動が最新のフォーカスグループの結果よりも差し迫った問題であると思っている国、そういう国のことを私は言っているのです。また、午前二時にツイッターで大悪口を言って怒鳴り散らし、第三次世界大戦を扇動するようなリスクを冒さない地球規模のリーダーがいるとしたら、うますぎる話しだと思いませんか？　実際に、機械が完全に政府の代わりができる、もしくはできるだろうと推定されるようなもっともらしい環境は無い、と科学者は信じています。

While a machine might be able to make incredibly complex calculations, it would have no objective concept of right and wrong, no definitive way of deciding what’s best. For example, it might be able to objectively analyze the financial cost of keeping someone alive through medical treatment, but it cannot quantify whether the human life is worth that cost. And while you could argue our current politicians may not be subject to enough accountability, it would be impossible to hold a machine accountable for its mistakes.

機械は信じられないほど複雑な計算をすることができるかもしれませんが、善悪についての客観的な概念を持っていませんし、何がベストなのかを決める決定的な方法を打ち出せません。例えば、医学的な治療を受けながら人間が生存しているための経済的コストを客観的に分析できるかもしれませんが、人間の命が生きている間にどれくらいの価値があるかどうかということを測る事はできません。現在の政治家達が責任説明をするのに十分な能力がないと議論していても、自らのミスに対して機械が責任を負うというのは不可能です。

After all what do you do when a machine misbehaves? Tell its motherboard? It’s not quite the Terminator, but perhaps the biggest risk in the medium term, is the use of lethal automated weapons. While there is currently human oversight, if drones were ever authorized to make life or death decisions, one mistake could trigger an automatic reaction and cause an accidental flash war. Which frankly sounds a tad more terrifying than Arnie stealing your clothes, boots and motorcycle. As hard as it might be to believe, technology which surpasses human intelligence is decades if not centuries away. But even if it existed, scientists argue that it would be no more useful in government than the world’s most intelligent human.

結局、機械がミスをしたらどうします？　その方法を教えてください。機械はターミネーターではありませんし、ターミネーターとは全く違いますが、中期的に見た場合、ミスは最も大きなリスクとなるでしょう。オートメーション化された致死量の武器がそうです。人間には見落としがありますから、もし、ドローンが生死を決定する認可を受けたとしたら、一歩間違えると、自動反応の引き金となりうるし、思いがけないフラッシュ戦争を引き起こしかねません。正直言ってそんなことを聞くと、アーニーがあなたの洋服やブーツ、バイクを盗む行為よりも怖い感じがします。信じがたいことですが、人間の知性を超えたテクノロジーは、誕生してから数百年もたっていません。数十年です。しかし、たとえそれが存在しても、政治において世の中で最も知的な人間以上に機械が役に立つことはないだろう、と学者たちは議論しているのです。

Instead, it is far more likely that the use of artificial intelligence in government will continue on its current trajectory. As an aid on decision making, with humans having ultimate power. AI is already being used to assist in deciding who gets grants or benefits, in healthcare and policing. But think of it like VAR, with a human being acting as the referee. Of course as machines are programmed by humans and their conclusions used to support human decisions, they can be susceptible to human bias, and their findings can be used selectively. Machines learn from data, which is gathered from the world we live in, as opposed to the world we’d like to live in.

その代わりに、政府の中で人口知能を使う行為は現状通り続く可能性が高いのです。人間が持つ最大限の力と共に決定をくだす援助として使われ続けるのだろう。健康面や取り締まりにおいて、助成金や援助の対象になる人を誰にするかを決定するのに、ＡＩはすでにもう補助的に使用されています。でも、そのやり方がBARのようなものだったら、審判のように振る舞う人間と一緒に仕事をしているようなものです。もちろん、機械は人間によってプログラムされていますし、その決定は人間の決断をサポートするように組み込まれていますので、機械がやることは人間の偏見に影響されやすいし、機械がくだす結果は選択的に使用されうる。機械はデータを覚え込まされています。そのデータは、我々が住みたいと望んでいる世界とは対照的に我々が住んでいる世界から集められたものです。

In places like the US, where African-Americans are often disproportionately and, in some cases, lethally targeted by the police, predictive policing could interpret existing data, to potentially perpetuate those discriminatory patterns. Sadly, it would seem that machine learning is no more equipped than human beings to make big ethical calls. AI would not be an infallible replacement for flawed human beings. How we use AI to govern, whether or not it is manipulated or how mistakes are made, are all down to human beings themselves. In short, AI is much more human than we ever realized. Which is perhaps the scariest notion of all.

アメリカ合衆国のようなところでは、アフリカ系アメリカ人は　不相応に、また、いくつかの事件においても致命的に警察からマークされます。憶測がメインになっている取り締まりは現存するデータを解釈しうるし、このような差別的なパターンを潜在的に永続させることになります。悲しいことだけど、機械の学習は倫理的な要求に関しては人間の能力に劣るのです。ＡＩは、欠点だらけの人間にとって完全無欠な代用品にはならないでしょう。管理にあたって、我々はいかにＡＩを利用するのか、素晴らしい処理能力があるのかないのか、どんなミスが起こりうるのか、すべてが人間の手にかかっています。端的にいうと、我々がかつて実感していた以上にＡＩは人間に似ているます。おそらくそれが一番怖いことです。

＜おまけ＞＜gift＞

Hold accountable for one’s mistakes
みずからのミスに対して責任を負う

Accountability
説明責任

It’s far more likely that~
～の可能性が高い

As opposed to ~
～と対照的に

Disproportionately
不均衡に

be subject to ~
～の対象になる
～に左右される

Susceptible
影響を受けやすい

↓　いつもクリックしてくださってありがとうございます。応援してください。
↓　Please click here. Thank you very much for your continuous support.

エッセイ・随筆ランキング