نقد انیمه Atom the beginning

دنیای ماشین های هوشمند

از روزی که ارشمیدوس اولین بار ایده ماشین ها را مطرح کرد بیش از سه قرن می گذرد. ایده ای که اولین بار با ترکیب اهرم، قرقره و پیچ، ترکیب اولین ماشین ساخته شده توسط بشر را به وجود آورد. از زمان ارشمیدوس تا به امروز دنیای ماشین ها بسیار پیشرفت کرده است، تا جایی که امروزه زندگی کردن بدون ماشین ها تقریبا غیر ممکن است. دنیای اطراف ما پر شده از ماشین هایی که برای کمک به ما ساخته شده اند، از ساعت مچی که در دست ماست تا انواع موتور ها ، پمپ ها ، توربین ها و ربات ها.  بله ربات ها نیز ماشین هایی هستند که به وسیله ما انسان ها ساخته شدند تا بتوانند جایگزینی برای ما انسان ها باشند، کارهای ما را انجام دهند و همچنین فراتر از توانایی ما رفته و کارهایی را که انسان ها قادر به انجام آن نیستند را نیز انجام دهند. دنیای امروز دنیای انسان ها و ربات ها و دنیای فردا دنیای مطلق ربات هاست. ما با همراه باشید با تحلیل دنیای ربات ها در قالب انیمه Atom The Beginning .

ربات کلمه ای است که از واژه Robota در زبان چکی برگرفته شده است که به معنی برده یا کارگر می باشد. بیشتر مردم تصورشان از ربات ، ماشینی است که می تواند اعمالی هوشمند شبیه به انسان انجام دهد. تعریف پایه ربات را معمولا این گونه بیان می کنند : یک دستگاه یا وسیله خود کاری که قادر به انجام اعمالی است که معمولا به انسانها نسبت داده می شود و یا مجهز به قابلیتی است که شبیه هوش بشری است. در حال حاضر و با شروع هزاره جدید ، هدف نهایی علم رباتیک ، خلق رباتی است که همانند انسان خصوصیات رفتاری ، حرکتی ، هوش و ارتباط را ار خود بروز دهد. یک ربات هوشمند را می توان این گونه تعریف کرد: یک ربات هوشمند ، ماشین خودکار چند منظوره ای است که طیف وسیعی از وظایف متفاوت را، تحت شرایطی که حتی ممکن است به آن شناخت کافی نداشته باشد ،همانند انسان آن را انجام دهد. 

موسسه صنعتی آمریکا RAI یا Robotic Industrial Association که شرکتی با سابقه در صنعت رباتیک می باشد و در تولید بازوهای ربات های صنعتی یا (Manipulators) است، این گونه ربات را تعریف می کند: یک ربات، یک جابجا کننده چند وظیفه ای برنامه پذیر است که برای حرکت دادن مواد ، قطعات ،ابزار ها یا وسایل خاص ،با استفاده از حرکات برنامه ریزی شده قابل تغییر برای تحقق فرامین مختلف ،طراحی شده است. ربات در معنای عام تر و کلی تر یک ماشین الکترومکانیکی هوشمند است، با خصوصیات زیر:

1- می توان آن را مکرراً برنامه ریزی کرد.

2- چند کاره است.

3- Multi Tasking

4- کارآمد و مناسب برای محیط است و توانایی هماهنگ کردن خود با محیط را دارد.

پس به طور خلاصه ربات ماشینی است که کاری مستمر و تکراری را بدون خستگی و با سرعت بالا و بدون اشتباه یا خطای ناچیز انجام دهد. ربات یک ماشین هوشمند است که قادر است در شرایط خاصی که در آن قرار می گیرد، کار تعریف شده ای را انجام دهد و همچنین قابلیت تصمیم گیری در شرایط مختلف را نیز ممکن است داشته باشد. با این تعریف می توان گفت ربات ها برای کارهای مختلفی می توانند تعریف و ساخته شوند. مانند کارهایی که انجام آن برای انسان غیرممکن یا دشوار باشد.

روباتیک، علم مطالعه فن آوری مرتبط با طراحی، ساخت و اصول کلی و کاربرد روباتهاست. روباتیک علم و فن آوری ماشینهای قابل برنامه ریزی، با کاربردهای عمومی می باشد. علم رباتیک به طور کلی از سه شاخه اصلی تشکیل شده است:

 1 - الکترونیک ( شامل مغز ربات)

2 - مکانیک (شامل بدنه فیزیکی ربات)

3 - نرم افزار (شامل قوه تفکر و تصمیم گیری ربات)

اگریک ربات را به یک انسان تشبیه کنیم، بخشهایی مربوط به ظاهر فیزیکی انسان را متخصصان مکانیک می سازند. مغز ربات را متخصصان الکترونیک توسط مدارای پیچیده الکترونیک طراحی و می سازند و کارشناسان نرم افزار قوه تفکر را به وسیله برنامه های کامپیوتری برای ربات شبیه سازی می کنند تا در موقعیتهای خاص ، فعالیت مناسب را انجام دهد.

Atom The Beginning نام مجموعه ای ژاپنی است که به دنیای ربات و رباتیک می پردازد. این مجموعه در واقع در ادامه یکی از مشهور ترین مجموعه مانگا و انیمه های ژاپنی به نام Astro Boy ساخته شده است. مجوعه ای که در سال 1952 توسط Osamu Tezuka مانگاکار فقید ژاپنی نوشته شد، که به عنوان محبوبترین و موفق ترین مجموعه ژاپنی نیز از آن یاد می شود. مجموعه مانگایی که از روی آن انیمه، لایت نول، فیلم سینمایی، بازی کامپیوتری و ... ساخته شده است و به زبان های مختلف دنیا نیز ترجمه شده است. اثری که حتی هالییود هم اقتباسی از این مجموعه را با نام Astro Boy در سال 2009 روانه پرده سینما ها کرد که خود نشان از محبوبیت و موفقیت این مجموعه است. داستان درباره رباتی به نام آسترو می باشد که ساخته می شود تا جایگزین پسر فوت شده رئیس وزارت علوم ژاپن شود، رباتی با قدرت خارق العاده که دارای احساسات انسانی نیز می باشد. رباتی که تبدیل به قهرمانی می شود برای مبارزه با ناعدالتی و جرم و جنایت.

Osamu Tezuka  که به عنوان پدر صنعت مانگا و انیمه ژاپن نیز نامیده می شود ، مانگاکار، انیماتوریست و تهیه کننده ژاپنی می باشد که متولد اوساکا ژاپن است. وی متولد سال 1928 و در تاریخ 1989 نیز وفات یافته است. Osamu Tezuka  را به عنوان پدیدآورنده انقلاب در صنعت مانگا و انیمه ژاپن می دانند که با خلق آثاری همچون Astro Boy ، Jungle Emperor Leo ، Black Jack و Phoenix توانسته است یکی از موفق ترین هنرمندان ژاپنی لقب بگیرد. آثار او 700 جلد و با بیش از 150،000 صفحه است که توانسته است بسیاری از جوایز داخلی و خارجی را برای او به ارمغان آورد.

جوایزی همچون:

1957 Shogakukan Manga Award for Manga Seminar on Biology and Biiko-chan:

1975 Bungeishunjū manga Award:

1975 Japan Cartoonists Association Award—Special Award:

1977 Kodansha Manga Award for Black Jack and The Three-Eyed One:

1980 Inkpot Award, San Diego Comic-Con:

1983 Shogakukan Manga Award for Hidamari no Ki:

1984 Animafest Zagreb Grand Prize for Jumping:

1985 Hiroshima International Animation Festival for Onboro-Film:

1986 Kodansha Manga Award for Message to Adolf:[33]

1989 Nihon SF Taisho Award – Special Award:

1989 Order of the Sacred Treasure, 3rd class (posthumous):

2004 Eisner Award for Buddha (vols. 1–2):

2005 Eisner Award for Buddha (vols. 3–4):

2009 Eisner Award for Dororo:

2014 Eisner Award for The Mysterious Underground Men:

به خاطر تلاش های Osamu Tezuka  در صنعت مانگا و انیمه ژاپن در سال 1994 موزه ای به نام این هنرمند ژاپنی در شهر تاکارازوکا افتتاح گردید تا یاد و تلاش های این هنرمند برای آیندگان باقی بماند.

Atom The Beginning در واقع داستان پیدایش نسخه اولیه ربات آسترو است و داستان مهندسین جوانی که برای اولین بار ایده خلق رباتی که دارای احساسات و تصمیم گیری انسانی باشد را مطرح کردند و نمونه اولیه آسترو یا آتم را به وجود آوردند. داستان مانگای این مجموعه توسط Tetsuro Kasahara ، Makoto Tezuka و Masami Yuki نوشته شده و توسط یکی از بزرگترین شرکت های نشر و چاپ ژاپنی به نام Shogakukan به چاپ رسیده است. این مانگا در 6 جلد تهیه شده و از سال 2014 در حال چاپ می باشد. انیمه این داستان توسط Katsuyuki Motohiro و Tatsuo Satō کارگردانی شده است. وظیفه ساخت انیمه نیز بر عهده سه استودیوی معروف ژاپنی به نام های OLM, Inc ، Production I.G و Signal.MD می باشد که در کارنامه آن ها تهیه آثار مطرحی چون Berserk ، Pokémon و Library War به چشم می خورد. Atom The Beginning در 12 قسمت و در تاریخ 15 آپریل 2017 در شبکه NHK ژاپن پخش شده است و دوبلورهایی همچون Yūichi Nakamura ( در نقش Umatarō Tenma ) ، Takuma Terashima ( در نقش Hiroshi Ochanomizu ) و Mikako Komatsu ( در نقش Motoko Tsutsumi ) در آن به صدا پیشگی پرداخته اند.

A106 که به اختصار شش نامیده می شود محصول آزمایشگاه دانشکده رباتیکی می باشد که شخصیت های اصلی مجموعه در آن بر روی پروژه ای خاص  فعالیت می کنند که ربات ها را قادر می سازد که همچون انسان ها درک درستی از احساسات انسانی داشته باشند و بتوانند همانند انسان ها تصمیمات منطقی بگیریند ، تصمیماتی که بر پایه تحلیل و بررسی محیط پیرامونی خود باشد.  Umatarō Tenma و  Hiroshi Ochanomizuدو دانشجویی هستند که ربات A106 را طراحی کرده اند و می خواهند انقلابی در زمینه هوش مصنوعی ربات ها به وجود آورند. انقلابی که بتواند ربات ها را جایگزینی برای انسان ها بکند، هدفی که بعدا در انیمه Astro Boy محقق می شود.

انیمه درباره علم رباتیک صحبت می کند و به دنبال پرسش به این سوال است که ربات ها تا چه اندازه در زندگی آینده انسان تاثیر گذار اند و علم رباتیک تا چه جایگاهی می تواند به پیشروی خود ادامه دهد. همچنین در تلاش است تا به سوالی دیگر هم پرسش دهد ، سوالی درباره ماهیت ربات ها و خطراتی که ربات ها برای انسان ها به وجود می آورند. در انیمه ربات ها به دو بخش تقسیم می شوند، ربات های انسان نما و غیر انسان نما. ربات های انسان نما که A106 نیز جزو همین دسته می باشد به این خاطر که شباهت ظاهری با آناتومی بدن انسان دارند و قابلیت انجام حرکت هایی شبیه به حرکات بدن انسان را فراهم می سازند به ربات های انسان نما مشهور شده اند. به طور کل یک ربات انسان نما ، رباتی است که بر اساس ساختار یک انسان ساخته شده است ؛ مواردی مثل این که ربات بر روی دو پایش راه برود ، یک تنه فوقانی داشته باشد، دو بازو داشته باشد و دو پا و یک سر داشته باشد.

برای این که بتوانیم هر ماشینی را ربات بخوانیم باید به سه ویژگی مشخص ربات ها توجه کنیم:

۱- داری حرکت و پویایی باشد

۲- قابلیت برنامه ریزی جهت انجام کارهای مختلف را دارا باشد

۳- بعد از اینکه برنامه ریزی شد. قابلیت انجام وظایفش را به صورت خودکار داشته باشد

این سه ویژگی برای تمامی ربات ها صادق اند ولی طیف ربات های انسان نما باید ویژگی خاص دیگری را نیز فراتر از این موارد داشته باشند و آن داشتن هوش مصنوعی است. ویژگی که انیمه بر آن تاکید دارد و ربات A106 نیز دارای همین خصوصیت خاص است که شش را تبدیل به ماشینی کرده است که قابلیت هایی کاملا شبیه به انسان از خود بروز می دهد و با تکیه بر هوش مصنوعی خود می تواند خود در مواجه با موقعیت های خاص تصمیم بگیرد و عمل کند.

 « هوش مصنوعی، دانش ساختن ماشین‌‌ ها یا برنامه‌های هوشمند است. »

هوش مصنوعی به هوشی که یک ماشین در شرایط مختلف از خود نشان می‌دهد، گفته می‌شود. به عبارت دیگر هوش مصنوعی به سیستم‌هایی گفته می‌شود که می‌توانند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی و پاسخ موفق به آنها، یادگیری و توانایی کسب دانش و استدلال برای حل مسایل را داشته باشند. بیشتر نوشته‌ها و مقاله‌های مربوط به هوش مصنوعی، آن را به عنوان «دانش شناخت و طراحی عامل‌های هوشمند» تعریف کرده‌اند. یک «عامل هوشمند» سیستمی است که با شناخت محیط اطراف خود، شانس موفقیت خود را پس از تحلیل و بررسی افزایش می‌دهد. این تعریف دقیقا همان چیزی است که ربات شش در انیمه آن را به ما نشان می دهد، به طور مثال در سکانس رژه ربات ها ، ربات شش با توجه به مشاهدات خود متوجه بروز مشکل در یکی از ربات ها می شود و با قدرت تصمیم گیری و پردازش خود تصمیم می گیرد تا مشکل را برطرف کرده و خطر احتمالی که انسان ها را تهدید می کند بر طرف کند بدون آن که انسانی در این فرایند تجزیه، تحلیل و اقدام دخالت داشته باشد و یا طبق دستور عامل انسانی از خود واکنش نشان دهد.

برای هوش مصنوعی تقریبا نمی توان تعریفی ارائه کرد ولی می توان گفت که هوش مصنوعی بر پایه این سه باور به وجود آمده است:

1 - سیستم‌هایی که به طور منطقی فکر می‌کنند

2 - سیستم‌هایی که به طور منطقی عمل می‌کنند

3 - سیستم‌هایی که مانند انسان فکر می‌کنند

4 - سیستم‌هایی که مانند انسان عمل می‌کنند

برای این که یک ربات بتواند رفتارهای هوشمند از خود بروز دهد باید ویژگی های زیر را دارا باشد، این ویژگی ها را می توان خصوصیت های هوشمند بودن ربات ها دانست:

*پاسخ به موقعیت‌های از قبل تعریف نشده با انعطاف بسیار بالا و بر اساس بانک دانش

*معنا دادن به پیام‌های نادرست یا مبهم

*درک تمایزها و شباهت‌ها

*تجزیه و تحلیل اطلاعات و نتیجه‌گیری

*توانمندی آموختن و یادگرفتن

*برقراری ارتباط دوطرفه

*تولید گفتار

*تشخیص و درک گفتار (پردازش زبان طبیعی انسان)

*دستور پذیری و قابلیت انجام اعمال فیزیکی در محیط طبیعی و مجازی

*استنتاج و استدلال

*تشخیص الگو و بازشناسی الگو برای پاسخ گویی به مسائل بر اساس دانش قبلی

*شمایلی گرافیکی و یا فیزیکی جهت ابراز احساسات و عکس العمل‌های ظریف

*سرعت عکس العمل بالا

در واقع بسیاری شروع هوش مصنوعی را 1950 می‌ دانند زمانی که آلن تورینگ مقاله دوران‌ساز خود را در باب چگونگی ساخت ماشین هوشمند نوشت (آنچه بعدها به تست تورینگ مشهور شد) تورینگ درآن مقاله یک روش را برای تشخیص هوشمندی پیشنهاد می‌کرد. این روش بیشتر به یک بازی شبیه بود. فرض کنید شما در یک سمت یک دیوار (پرده یا هر مانع دیگر) هستید و به صورت تله تایپ باآن سوی دیوار ارتباط دارید و  شخصی از آن سوی دیوار از این طریق با شما در تماس است. طبیعتاً یک مکالمه بین شما و شخص آن سوی دیوار می‌تواند صورت پذیرد. حال اگر پس از پایان این مکالمه، به شما گفته شود که آن سوی دیوار نه یک شخص بلکه (شما کاملاً از هویت شخص آن سوی دیوار بی‌خبرید) یک ماشین بوده که پاسخ شما را می‌داده، آن ماشین یک ماشین هوشمند خواهد بود، در غیر این صورت(یعنی در صورتی که شما در وسط مکالمه به مصنوعی بودن پاسخ پی ببرید) ماشین آن سوی دیوار هوشمند نیست و موفق به گذراندن تست تورینگ نشده است. باید دقت کرد که تورینگ به دو دلیل کاملاً مهم این نوع از ارتباط (ارتباط متنی به جای صوت) را انتخاب کرد. اول این که موضوع ادراکی صوت را کاملاً از صورت مساُله حذف کند و این تست هوشمندی را درگیر مباحث مربوط به دریافت و پردازش صوت نکند و دوم این که بر جهت دیگری هوش مصنوعی به سمت نوعی از پردازش زبان طبیعی تاکید کند.

تست تورینگ پایه های جدیدی از هوش مصنوعی را به وجود آورد و درک شناختی ما از ربات ها و هوش مصنوعی را تغییر داد. در واقع رباتی را می توان دارای هوش مصنوعی دانست که باید علاوه بر قابلیت های دیگر رباتی از جمله قابلیت حرکت، دیدن، شنیدن و قابلیت برقراری ارتباط و تجریه و تحلیل محیط پیرامونی خود، باید توانایی پاسخ دهی به محیط پیرامون خود را نیز داشته باشد. باید بتواند با هوش انسانی به رقابت بپردازد و در سطح بالاتر بتواند زبان‌های طبیعی را پردازش کند، منظور از پردازش زبان طبیعی یعنی بتواند زبان گفتار و نوشتار انسان را بفهمد، آن را تجزیه و تحلیل کند و مطابق با آن پاسخ مناسب را به همان زبان طبیعی تولید کند که این کار یکی از اهداف ساخت هوش مصنوعی است که تا به امروز محقق نشده است، هر چند که ربات های انسان نمای زیادی ساخته شده اند اما تا رسیدن به ساخت رباتی همچون A106 راه درازی در پیش است.

در هر قسمت از انیمه بر روی یکی از جنبه های استفاده از ربات ها تاکید می شود و نشان داده می شود که ربات ها چگونه می توانند انسان ها را در زمینه های مختلف کمک کنند، که می توان مثالهایی را در این خصوص زد که در انیمه نیز به آن ها اشاره شده است:

1 - توانایی جستجو و تجزیه تحلیل داده ها : این قابلیت در مواردی همچون ردیابی سیگنال ها برای پیدا کردن اشیای گمشده یا پیدا کردن اطلاعات خاص از میان انبوهی از داده ها و اطلاعات موجود در پیرامون ما به کار می رود که علاوه بر تسریح سازی در روند جستجو می تواند خطای ناشی از جستجو را به صفر برساند.

2 – توانایی انجام فعالیت های که به دقت ، مهارت و ظرافت خاصی نیازمند اند: بهترین نمونه این عملکرد در مواقعی است که بخواهیم از حواس پنج گانه انسانی استفاده کنیم مثلا آشپزی و تهیه و پخت غذا که عموما جزو کارهای محسوب می شود که احتیاج به هوش انسانی و ظرافت و دقت بالا دارد و ربات ها در انجام آن ها در حال حاضر عاجز اند چون فاقد حواس پنجگانه انسانی اند.

3 – توانایی انجام کارهای سنگین و جابه جایی اجسام: بهترین نمونه این مثال استفاده از ربات ها در صنایع سنگین است مثلا خط تولید اتوموبیل ها و یا صنایع فولاد که احتیاج به جا به جایی کوره های سنگین و داف نیاز است آن هم با سرعت و دقت بالا

4 – توانایی تشخیص موقعیت های مخاطره آمیز : یک ربات باید قادر باشد خطر را احساس کند و بتواند درک درستی از یک موقعیت مخاطره آمیز داشته باشد و بتواند تصمیم درستی برای برخورد با این موقعیت اتخاذ کند، و در سطح بالا تر حتی بتواند برای حفظ سلامتی انسان ها حتی خود را نیز به مخاطره بیاندازد.

5 – قدرت تشخیص خرابی ها، مشکلات و عملکردهای نادرست ماشین ها ، سیستم های انسانی و غیر انسانی: یک ربات باید بتواند تشخیص دهد که یک سیستم چه موقع ناقص عمل می کند و خراب است و چه موقع سالم و بعد از این تشخیص توانایی رفع این مشکل را نیز داشته باشد و اقدام به تصحیح این خرابی ها کند

6 – استفاده از ربات ها در زمینه سرگرمی: سرگرمی همیشه یکی از اهداف توسعه تکنولوژی بوده است و پیشرفت ربات ها نیز علاوه بر اهداف صنعتی، نظامی و عمومی که دارند سرگرمی نیز توانسته است جزو این اهداف قرار گیرد از جمله جنگ ربات ها که با پیشرفت ربات ها این نمونه مسابقات نیز پیشرفت زیادی داشته اند و مخاطبان زیادی را نیز از قشر جوان و نوجوان به سمت خود جلب کرده اند. امروزه ربات ها خیلی راحت می توانند جایگزینی برای مبارزات خشونت آمیز داخل رینگ های ورزشی و مبارزاتی باشند.

7 – توسعه نظامی: امروزه یکی از زمینه های پیشرفت ربات ها مربوط به استفاده نظامی آن ها در مواجهه با دشمنان است، چرا که ربات ها با توجه به قدرت و هوش بالاتر نسبت به یک انسان خیلی راحت تر می توانند در عملیات های نظامی استفاده شوند و دیگر احتیاجی به ریسک به خطر انداختن جان سربازان نیست.

و استفاده های فراوان دیگر از ربات ها که گوشه ای از آن ها را در انیمه Atom The Beginning به نمایش گذاشته می شود. اما استفاده از ربات ها قطعا خطراتی را نیز دارد و همچنین تکیه بیش از حد به تکنولوژی، به عقیده بسیاری استفاده از ربات‌ها هر روز گسترده ‌تر می‌شود به‌زودی ربات‌های پرستار، نظافتچی، فوتبالیست، آشپز، مربی و ... به تولید انبوه می‌رسند. حتی قرار است تا سال 2050 دانشمندان تیم فوتبال رباتیکی بسازند که با انسان‌ها بازی کنند و آن‌ها را شکست دهند . شاید روزی فرا برسد که در هر خانه‌ای یک ربات انسان‌نما و همه‌کاره وجود داشته باشد و دیگر در صنایع و کشاورزی و ... به حضور انسان نیاز نباشد. در حقیقت، پیشرفت‌های قابل‌توجه در ساخت ربات‌های مختلف طی چند سال اخیر، آینده‌ای را ترسیم می‌کند که در آن ربات‌ها قادر به انجام هر کاری هستند. مهندسان در سراسر جهان در اقدامی که هدف آن رفاه بیشتر انسان می نامند ربات‌هایی ساخته‌اند که می‌توانند در بسیاری از زمینه‌ها جایگزین انسان شده و بشر را از انجام کارهای دشوار و خطرناک معاف کنند.  اما درعین‌حال ربات‌هایی نیز طراحی می‌شوند که هدف آن‌ها کشتن انسان‌هاست و این ربات های قاتل از آن دسته از تسلیحات نظامی هستند که بدون نیاز به دخالت و نظارت بشر، قادر به یافتن و حمله به هدف‌های نظامی‌اند. اگرچه این‌گونه تسلیحات هنوز به مرحله تولید و بهره‌برداری نرسیده اما تلاش در این مورد آغازشده است!

هوش ربات‌ها هر روز در حال پیشرفت است و همین امر موجب شده است برخی مردم و حتی محققان آینده شوم و ترسناکی را برای دنیای ربات ها پیش‌بینی ‌کنند که در آن تعداد ماشین‌های هوشمند از انسان‌ها پیشی می‌گیرد و این ربات‌ ها هستند که هدایت دنیا را به دست خواهند گرفت. اگر نگرانی درباره‌ی اینکه در آینده هوش مصنوعی ممکن است از هوش ما پیشی بگیرد را کنار بگذاریم، خطر واقعی این‌جاست که ممکن است زمانی به سیستم‌های هوشمندی که می‌سازیم بیش از حد اعتماد کنیم. بعد از اینکه به هوش مصنوعی به اندازه‌ی کافی تعلیم داده شد، وظیفه‌ی آنالیز داده‌های تازه و دیده نشده را به او می‌سپاریم. هوش مصنوعی طبق تعلیماتی که دیده است، در این داده‌ها الگوها را کشف می‌کند و در نهایت به پاسخ می‌رسد. مشکل این‌جاست که ما هیچ وقت نمی‌توانیم بفهمیم چگونه به پاسخ رسیده است و سوال مهم تر این که آیا این همان پاسخی است که ما می خواهیم دریافت کنیم. بگذارید راحت تر صحبت کنیم اگر از هوش مصنوعی ساخته شده توسط خود بپرسیم که بزرگترین تهدید برای جامعه انسانی چیست و از او بخواهیم که این عامل تهدید را از بین ببرد آن وقت مطمئن هستیم که جواب او همان چیزی است که ما می خواهیم ؟ اگر عامل تهدیدی که او شناسایی می کند خود ما باشیم چه ؟ این یعنی خود با دستان خود موجودی را ساخته ایم که هدفش نابودی خود ماست.

دنیای ربات ها با توجه به تمام خصوصیات مثبت و منفی آن ها به هر حال دنیای است که در پیش روی زندگی انسان هاست، چه بخواهیم و چه نخواهیم ربات ها روزی جای ما را خواهند گرفت اما مهم این است که یک ربات هیچ وقت دارای روح نمی باشد و این روح است که انسان را تبدیل به انسان می کند. شاید روزی فرا رسد که بدن انسان ها نیز تبدیل به ربات شود اما یادمان باشد که انسان هنوز هم انسان است تا وقتی که خود بخواهد انسان بماند.