There is more and more utilization of AI technology in our daily lives nowadays. These technologies certainly make our lives more convenient. However, have you ever thought about the existence of a “superintelligence” AI that can surpass the capability of mankind and may possibly dominate humans? It still sounds like science fiction at this point, right? One thing we believe that AI is fundamentally different from humans is that AI doesn’t and cannot understand human emotions. However, this may not be so true anymore. In this article, let’s look at 3 examples done by MIT to show how “capable” AI can be?

今日、私たちの日常生活でAI技術がますます利用されています。これらの技術は確かに私たちの生活をより便利にします。しかし、人類の能力を超えることができ、おそらく人間を支配する可能性がある「スーパーインテリジェンス」AIの存在について考えたことがありますか？ この時点ではまだサイエンスフィクションのようです。 AIは人間と根本的に異なる存在と私たちはそう信じています。一つは、AIは人間の感情を理解していませんし理解できないということです。 しかし、これは「絶対ない」という確信はありません。この記事ではAIがどのよな可能性があるかを示すためにMITが作った三つのAIを見てみましょう。

A Brief Introduction of MIT’s Horror AI Projects

MITのホラーAIプロジェクトの簡単な紹介

First, let’s look at a brief background of what the experiments are about. What MIT does in these 3 projects is to create 3 different AI with different functions. All 3 AI can generate fears in humans. The purpose of these projects is to find out whether AI can understand human emotions and most important of all, how catastrophic it could be if we feed the wrong data to an AI.

まず、実験についての簡単な情報を見てみましょう。これら3つのプロジェクトでMITは異なる機能を持つ3つのAIを作りました。 この3つのAIは人間に恐怖を生み出すことができます。これらのプロジェクトの目的はAIが人間の感情を理解できるかどうか？　そして最も重要なことはもしAIに間違ったデータを入力した場合に、それがどれだけ壊滅的になるかを調べることです。

Why Do People Develop Emotions? 　なぜ人は感情を持つのか

It might be a little abstract to understand but emotions have helped humans to survive. We developed an emotional system to induce a quick response to danger.

少し理解しにくいかもしれませんが、感情は人間が生き残るのを助けてきました。感情システムは人間が危険へ素早い対応するための重要な役割を務めています。

Can Machines Learn to Induce Our Feelings?

機械は私たちの感情を誘発することを学ぶことができますか

Humans are the only creature on this planet that developed a complex reason and emotional systems which help us to reason about the past and the future. And this allows us to dominate the food chain. It is also a way for humans to create community and to bind together. Emotions also remain like a cornerstone of human creativity. This leads us to the following question: “Can machines understand our emotions?” and “Can machines be creative like humans?”

人間はこの惑星上複雑な理由と感情的なシステムを持つ唯一の生き物です。このシステムは私たちが過去と未来について描く能力を与えます。これは私達が食物連鎖を支配することを可能にします。これも人間がコミュニティを作り出し、互いに結びつくための方法です。感情も人間の創造性の礎石のように存在しています。 これは私たちに次の質問をもたらします：「機械は私たちの感情を理解することができますか？」そして「機械は人間のように創造的であることができますか？」

The answer may be “Yes”. Today, face-tracking software is already capable of analyzing the smallest details of our facial expressions. Voice recognition algorithms can figure out our sentiment and emotional state from the audio. The next question is can machines learn to induce our extreme feelings such as fear?

答えは「はい」かもしれません。今日、顔追跡ソフトウェアはすでに私たちの顔の表情の細部を分析することができます。音声認識アルゴリズムは、音声から私たちの感情や感情の状態を把握することができます。次の質問は、機械は恐怖などの私たちの極端な感情を誘発することを学ぶことができますか。

The Secret of Fear 恐怖の秘密

Why “Fear”? It is no secret that people are fascinated by the idea of fear for a long time ago. Starting with the appearance of human civilization, men have many legends and stories about monsters, ghosts, or any kind of unknown things. Even today, we still loved to be scared by a horror movie or horror literature such as Frankenstein, Dracula, Mummy, etc.

なぜ「恐怖」なのか？　その理由は人間が昔から恐怖について興味があります。人間文明の出現から始めて、モンスター、幽霊、またはあらゆる種類の未知のものについての多くの伝説や物語があります。今の時代でも、人間はホラー映画やフランケンシュタイン、ドラキュラ、ミイラなどのホラー文学に恐れながら惹かれています。

Can Machine Learn to Scare Us?

機械は私たちをおびえさせることを学ぶことができますか

Fear is the ultimate primitive emotion that protects humans from danger and helps us to survive. For centuries, across different cultures, people try to innovate ways of scaring each other. Finally, we wonder “Can machines learn to scare us?”

恐怖は人間を危険から守り、私たちが生き残るのを助ける究極的、原始的な感情です。何世紀にも渡り、さまざまな文化を超えて、人間はお互いを怖がらせる方法を探してきました。 最後に、我々は「機械は私たちを怖がらせることを学ぶことができるのでしょうか」という疑問が生まれます。

MIT is the one that is taking active measures in testing the limits of AI and how can we prevent AI from being out of control of human hands. The very first project is the “Nightmare Machine” in 2016. It is an AI-generated scary imagery system.

MITは、人工知能の限界をテストするために積極的な対策を講じているものであり、人工知能が制御不能（人間）になるのをどのように防ぐことができる方法を探求しています。 一番最初のプロジェクトは2016年の「ナイトメアマシーン」です。これはAIが怖い画像を自動生成するシステムです。

NIGHTMARE MACHINEとは

It contains 2 parts. The first part is the “Hunted Faces” in which the AI creates scary faces by adding blood, blurring or darkening the images and distorting the facial features. The second part is the “Hunted Places” in which it takes images of famous landmarks and distorts, darkens them to make them look creepy.

このシステムは２つのパーツがあります。 最初の部分は「怖い顔」です。これは、AIが画像に血を加えたり、画像をぼかしたり暗くしたり、顔の特徴を歪めたりすることによって怖い顔を作成します。 ２つ目の部分は、それが有名なランドマークの画像を歪めて、それらを不気味に見えるようにするため暗くする「怖い場所」です。

The AI used to generate these images is powered by deep learning algorithms. The hidden purpose of this project is to see can AI detect AND induce extreme emotions of humans.

これらの画像を生成するために使用されるAIは、ディープラーニングアルゴリズムによって強化されています。 このプロジェクトの隠された目的は、AIが人間の極端な感情を検出し誘発することができるかどうかを見ることです。

Shelly: AI-powered trick or treat!

シェリー：AI搭載のホラー小説ライター！

In the 2017 Halloween, the MIT team presented another spooky AI intelligence, Shelly. It is the world’s first collaborative AI Horror Writer powered by deep learning too. It has been fed with eerie stories and is able to create horror stories emanating from her uncanny creative mind.

2017年のハロウィーンで、MITチームはもう一つの不気味なAI「シェリー」を発表しました。これも、Deep learningを使って、世界初のコラボレーションによるAIホラー小説ライターです。それは不気味な物語を作成されており、彼女(Shelly)のすごい創造的な心から発せられるホラーストーリーを作成することができます。

It is a twitter bot which allows users to interact with it. You can work with her just by responding to the stories it wrote. It is not only interesting to see how humans and AI can collaborate with each other but how AI can pick up human minds and feelings from the process.

これはユーザーがそれとやり取りすることを可能にするtwitterボットです。 彼女が書いた物語に答えるだけで一緒にホラー小説を作ることができます。人間とAIがどのようにしてお互いに協力できるかを見ることができるだけではなく、AIがこのプロセスから人間の心と感情を徐々に理解するのを見ることも楽しいです。

NORMAN: AI-powered psychopath

NORMAN：AI搭載サイコパスです

If you think the nightmare machine and Shelly are scary enough, come meet Norman, the world’s first psychopathic AI. The algorithm also created by a team at MIT was trained with images of people dying in gruesome circumstances. The AI learned to describe what it sees in words; however, it describes every picture it sees in a very negative way such as dead bodies, destruction, and blood.

もしあなたがNightmare machineとShellyが十分に怖いと思うならば、ノーマン、世界初のサイコパスAIに会いましょう。これもMITのチームが作ったアルゴリズムは、恐ろしい状況で亡くなった人々の画像で訓練されました。このAIは自分が見ているものを言葉で説明することを学びましたが、それは死体、破壊、血のような非常に否定的な考えですべての絵を描写しています。

What is the takeaway? 学べるlessonは？

What MIT is doing here is not just to show what AI can do but to warn people “data matters more than the algorithm.” It points out the idea that the data we use to train AI is reflected in the way it perceives the world and how it behaves. The result of all three AI shows us that AI trained on bad data can itself turn bad. And this is exactly what we are afraid of.

ここでMITが行っているのは、AIができることを示すことだけではなく、「データはアルゴリズムより重要だ」と人々に警告することです。AIを訓練するために使用するデータは、 それはAIはこの世界に対してどのように認識しているのかを重要な役割を担当します。 3つのAIすべての結果から、悪いデータが訓練されたAI自体が悪い結果になる可能性があることがわかります。 そしてこれこそまさに私たちが恐れていることです。

Will AI take over our world?

AIは私たちの世界を支配するでしょうか？

Finally, let us go back to the original question that “Will AI take over the world?” The answer is likely to be positive but in what way. Many scientists and engineers believe that

AI will eventually take over the business world in a more positive way. We need to learn to think of AI as an essential tool to help humans create a better customer experience and make an AI based on that idea.

最後に、「AIがこの世界を支配するのか」という最初の質問に戻りましょう。その答えは肯定的である可能性が高いですが、ポイントはどのような方法？　でしょうか。多くの科学者やエンジニアは、AIが最終的にはよりポジティブな方法でビジネスの世界を変えると信じています。 人間がより良いカスタマーエクスペリエンスを創造するために、そのアイデアに基づいてAIを作るのはとても大事です。

Will AI outsmart humans?

AIは人間より優れているでしょうか

Some scientists believe that the current AI will eventually develop into the form of a super-intelligent AI that combines a wide range of skills in one entity. Scientists worry that such ultrasmart AI will take over our place and dominate us in the future. And what we need to do is to be prepared for the point where the emergence of superintelligence that surpasses human-level intelligence to come. The ultimate fear is that the superintelligence is going to dominate humans or for the worse, exterminate human beings.

一部の科学者は、現在のAIが最終的に1つのエンティティ（実体）に幅広いスキルを組み合わせたスーパーインテリジェントAIの形に進化すると信じています。科学者は、そのような人工知能が私たち世界を占領し、私たちを支配することを心配しています。私たちがやるべきことは、人間より知性が高い超知性のものを表すことに対して準備を整えることです。この理論が一番怖いことはこのスーパーインテリジェントAIが人間を支配するか、さらに悪いことには、人間をこの世界から絶滅される可能性があります。

To prevent the worst scenario from happening, some of the scientists are working on creating “friendly” AI. The idea here is simply that other than creating all those AI with fancy features, what we need to pay attention to is to make sure the AI “WILL NOT WIPE US OUT” one day.

最悪のシナリオが起こらないようにするために、何人かの科学者は「フレンドリーな」AIの作成に取り組んでいます。ここでの考え方は単純です。ファンシーな機能を備えたAIを作り、より人間を「排除する」ことをしないように力を入れないといけないことです。

今回はAI関連の記事の第２弾です。まとめの部分はこの超知能が人間を排除する恐れがあるという理論をあげました。もちろん今はまだSFでしかない事かもしれませんが、科学者は2045年に人類は次の技術的特異点(Technological Singularity)を迎えますという論点をあげました。今まではパソコン、ネット、スマートフォンの発明は一応人類のテックの発展の大きな一歩と見られますが、次の技術的特異点は今までのものよりもっと想像以上のテックが我々の生活を一気に変えるといわれます。それは超知能AIの事かもしれません。一般的にそれは高度化した知能と技術を持つAIが人間の代わりに、文明進歩の主役になることです。そしてその前は人類はこの超知能AIと共生する対策を考えなければなりません。

今だけ！登録で最大1,500円相当もらえるお仕事探しサービス「テクスカ」

「テクスカ」は、報酬をもらいながらお仕事探しができる新体験のスカウトサービスです。

【テクスカの4つの特徴】
1.面談するだけで、3,500円相当のAmazonギフトカードを獲得できます
2.優秀な貴方に仲間になってほしいと真に願うとっておきのスカウトが企業から届きます
3.貴方の経歴・スキルを見て正社員のオファーだけでなく副業オファーも届きます
4.転職意欲がなくとも自分のスキルが通用するか各社のCTOに評価してもらうチャンスがあります

忙しさのあまり、企業との新たな出会いを逃している…
スパムのように届くスカウトメールにうんざりしている…
自分の市場価値がわからない…
社外の人からの評価が気になる…
副業の仕事が見つからない…

そんなあなたにおすすめです！