آنها خود را در بین خود ایجاد کردند. هوش مصنوعی فیس بوک سرکش شده و زبان خود را اختراع کرده است. هوش مصنوعی در چین

• پیوندهای خارجی در یک پنجره جداگانه باز می شونددرباره نحوه اشتراک گذاری بستن پنجره

حق چاپ تصویرکتابخانه عکس علومعنوان تصویر تاثیر سیستم های هوش مصنوعی توسط کارشناسان متفاوت ارزیابی می شود

باب: من می توانممی تواند منمنهمه چیز دیگر

آلیس: توپ ها برای من برای من و من برای من برای من صفر دارند.

همانطور که Digital Journal توضیح می‌دهد، سیستم‌های هوش مصنوعی بر اصل «پاداش» تکیه می‌کنند، یعنی به شرطی به فعالیت خود ادامه می‌دهند که «منافع» خاصی برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها سیگنال تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند خودشان را ایجاد کنند.

Tech Times اشاره می کند که ربات ها در ابتدا هیچ محدودیتی در انتخاب زبان نداشتند، بنابراین به تدریج زبان خود را ایجاد کردند که در آن می توانند راحت تر و سریع تر از انگلیسی ارتباط برقرار کنند.

"بزرگترین تهدید"

کارشناسان می ترسند که اگر ربات ها شروع به برقراری ارتباط فعال به زبان خود کنند، به تدریج مستقل تر می شوند و می توانند خارج از کنترل متخصصان فناوری اطلاعات عمل کنند. علاوه بر این، حتی مهندسان باتجربه نیز نمی توانند به طور کامل بر روند فکر ربات ها نظارت کنند.

چند روز پیش، مارک زاکربرگ، مدیرعامل فیس بوک و ایلان ماسک، بنیانگذار اسپیس ایکس، تسلا و پی پال، درباره هوش مصنوعی بحث کردند.

ماسک از مقامات آمریکایی خواست تا مقررات سیستم های هوش مصنوعی را تقویت کنند و هشدار داد که هوش مصنوعی تهدیدی برای بشریت است. در مورد تهدید بالقوه هوش مصنوعی قبلاً.

ماسک در سخنرانی در اجلاس انجمن ملی فرمانداران ایالات متحده، هوش مصنوعی را "بزرگترین تهدیدی که تمدن با آن روبروست" خواند. به گفته وی، اگر به موقع در توسعه این سیستم ها مداخله نکنید، دیگر خیلی دیر شده است.

او گفت: «من همیشه زنگ خطر را به صدا در می‌آورم، اما تا زمانی که مردم نبینند روبات‌هایی که در خیابان‌ها راه می‌روند و مردم را می‌کشند، نمی‌دانند چگونه [به هوش مصنوعی] واکنش نشان دهند.

اظهارات ماسک باعث عصبانیت مارک زاکربرگ موسس فیس بوک شد که آنها را "بسیار غیرمسئولانه" خواند.

زاکربرگ در پاسخ گفت: «در پنج یا ده سال آینده، هوش مصنوعی فقط زندگی را بهتر خواهد کرد.

ترجمه از مصنوعی

پاییز گذشته مشخص شد که موتور جستجوی اینترنتی گوگل سیستم هوش مصنوعی خود را برای بهبود کار مترجم آنلاین Google Translate ایجاد کرده است.

سیستم جدید به شما امکان می دهد کل عبارت را ترجمه کنید، در حالی که قبلاً مترجم تمام جملات را به کلمات و عبارات جداگانه تقسیم می کرد که کیفیت ترجمه را کاهش می داد.

به منظور ترجمه یک جمله کامل، سیستم جدید گوگل زبان خود را اختراع کرده است که به آن اجازه می دهد سریعتر و دقیق تر بین دو زبانی که از یا به آن ترجمه می کند، حرکت کند.

کارشناسان در حال حاضر هشدار می دهند که با توسعه سریع خدمات ترجمه آنلاین، کار مترجمان زنده ممکن است کمتر و کمتر مورد تقاضا باشد.

با این حال، تا کنون این سیستم ها نتایج با کیفیت بالا عمدتا برای متون کوچک و ساده تولید می کنند.

سرویس روسی بی بی سی می نویسد، مدیریت شبکه اجتماعی فیس بوک مجبور شد سیستم هوش مصنوعی خود را پس از اینکه ماشین ها شروع به برقراری ارتباط به زبان ناموجود خود که مردم نمی فهمیدند، خاموش کند.

این سیستم از ربات های چت استفاده می کند که در ابتدا برای برقراری ارتباط با افراد واقعی ساخته شده بودند، اما به تدریج شروع به برقراری ارتباط با یکدیگر کردند.

در ابتدا آنها به زبان انگلیسی ارتباط برقرار کردند، اما در مقطعی شروع به مکاتبه به زبانی کردند که خودشان در روند توسعه برنامه ایجاد کردند.

گزیده‌ای از «گفت‌وگوها» بین همکلاسی‌های مجازی در رسانه‌های آمریکایی ظاهر شد [املا و علائم نگارشی حفظ شده است].

باب: من می توانم همه کارها را انجام دهم.

آلیس: توپ ها برای من برای من و من برای من برای من صفر دارند.

همانطور که دیجیتال ژورنال توضیح می دهد، آنها بر اصل "تشویق" تکیه می کنند، یعنی به شرطی به فعالیت خود ادامه می دهند که "منفعت" خاصی برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها سیگنال تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند خودشان را ایجاد کنند.

Tech Times اشاره می کند که ربات ها در ابتدا هیچ محدودیتی در انتخاب زبان نداشتند، بنابراین به تدریج زبان خود را ایجاد کردند که در آن می توانند راحت تر و سریع تر از انگلیسی ارتباط برقرار کنند.

کارشناسان می ترسند که اگر ربات ها شروع به برقراری ارتباط فعال به زبان خود کنند، به تدریج مستقل تر می شوند و می توانند خارج از کنترل متخصصان فناوری اطلاعات عمل کنند. علاوه بر این، حتی مهندسان باتجربه نیز نمی توانند به طور کامل بر روند فکر ربات ها نظارت کنند.

به یاد داشته باشید که چند روز پیش، رئیس فیس بوک، مارک زاکربرگ، و بنیانگذار اسپیس ایکس، تسلا و پی پال، ایلان ماسک، در مورد هوش مصنوعی بحث کردند.

برنامه نویسان شبکه اجتماعی فیس بوک یکی از سیستم های هوش مصنوعی را غیرفعال کرده اند زیرا ربات ها زبان خود را برای ارتباط غیرقابل درک برای مردم ایجاد کرده اند. پیش از این، کارشناسان بارها در مورد خطراتی که افراد هنگام توسعه هوش مصنوعی با آن مواجه خواهند شد، هشدار داده اند. این در حالی است که چین قصد دارد در این مسیر به یک رهبر جهانی تبدیل شود.

فیسبوک مجبور شد ربات‌های چت هوش مصنوعی را غیرفعال کند، زیرا ربات‌ها به جای انگلیسی، به زبان خودشان ارتباط برقرار کردند. برنامه نویسان بخشی از سیستم را غیرفعال کردند و ربات های دیگر را دوباره برنامه ریزی کردند تا ارتباط آنها فقط به زبان انگلیسی انجام شود. ربات ها زبان خود را برای تبادل سریعتر اطلاعات ایجاد کردند.

این اولین بار نیست که چت بات ها قوانینی را که توسط سازندگانشان وضع شده است را نقض می کنند. بنابراین، چند ماه پیش، یک ربات مایکروسافت نصب‌ها را دور زد و شروع به پخش علناً ایده‌های نژادپرستانه و حمایت از مواد مخدر کرد.

ایلان ماسک، بنیانگذار اسپیس ایکس و تسلا، قبلا در مورد خطر توسعه هوش مصنوعی هشدار داده بود. او معتقد است که مقررات دولتی باید فعالیت توسعه دهندگان هوش مصنوعی را محدود کند. دولت های کشورهای مختلف علاقه مند به چنین تحولاتی هستند.

استیون هاوکینگ، فیزیکدان سه سال پیش گفت: «توسعه هوش مصنوعی کامل می‌تواند به معنای پایان نسل بشر باشد.

هوش مصنوعی در چین

تا سال 2030، چین قصد دارد با اندازه بازار 1 تریلیون یوان (148 میلیارد دلار) به مرکز جهانی هوش مصنوعی تبدیل شود.

دولت چین یک طرح سه مرحله ای برای توسعه و اجرای فناوری های مربوطه در این کشور تدوین و تصویب کرده است. بر اساس این طرح، تا سال 2020، سرمایه گذاری داخلی در توسعه هوش مصنوعی به 150 میلیارد یوان (22.14 میلیارد دلار) و تا سال 2025 - 400 میلیارد یوان (59 میلیارد دلار) خواهد رسید. تا سال 2020، چین قصد دارد در این زمینه با ایالات متحده عقب بیفتد و تا سال 2030 به یک رهبر جهانی تبدیل شود.

چین توسعه هوش مصنوعی را با رقابت اقتصادی و نظامی مرتبط می داند. شورای دولتی جمهوری خلق چین در بیانیه ای که در 20 ژوئیه منتشر شد، گفت: "وضعیت امنیت ملی چین پیچیده است و ما باید ابتکار عمل را برای تثبیت خود در فناوری جدید هوش مصنوعی و ایجاد مزیت رقابتی به کار بگیریم." eizvestia.com گزارش داد.

ایالات متحده طرح خود را برای توسعه هوش مصنوعی در اکتبر سال گذشته ارائه کرد. این کنترل دقیق بر سرمایه گذاری خارجی در زمینه توسعه اطلاعاتی را فراهم می کند. دلیل این امر ترس ایالات متحده از دستیابی کشورهای خارجی (از جمله چین) به فناوری های دارای اهمیت نظامی استراتژیک بود. در حال حاضر، شرکت های چینی بایدو و تنسنت در حال ایجاد مراکز تحقیقاتی هوش مصنوعی در ایالات متحده هستند. چین در تلاش است تا کمبود جدیدترین نرم افزار، تراشه های کامپیوتری پیشرفته و متخصصان شایسته را از بین ببرد.

forbes.ru می نویسد: از 250000 متخصص هوش مصنوعی که در پلتفرم LinkedIn ثبت نام کرده اند، 50٪ در ایالات متحده زندگی می کنند، سهم چین کمتر از 25٪ است.

در سال 2016، چین در مقالات علمی منتشر شده در زمینه تحولات در زمینه هوش مصنوعی (حدود 40٪) رهبر جهان شد.

نخست وزیر چین لی کچیانگ شخصا به توسعه هوش مصنوعی در چین علاقه مند است. نیویورک تایمز می نویسد، علاقه در بالاترین سطح نشان می دهد که دولت شرایط بهینه را برای همکاری بین شرکت های دولتی و خصوصی از جمله ساختارهای نظامی ایجاد خواهد کرد.

هوش مصنوعی آینده است

به گفته اکثر سرمایه گذاران، هوش مصنوعی انقلاب تکنولوژیکی بعدی خواهد بود که زندگی و تولید روزمره را تغییر می دهد. در اوایل ماه می، شرکت تحلیلی Tractica پیش بینی ای را منتشر کرد که بر اساس آن انتظار می رود بازار جهانی فناوری های هوش مصنوعی به سرعت از 1.38 میلیارد دلار در سال 2016 به 59.75 میلیارد دلار تا سال 2025 رشد کند. در این مورد، ما فقط در مورد شرکت هایی صحبت می کنیم که مستقیماً در تحقیق و توسعه مرتبط با هوش مصنوعی شرکت دارند.

در پایان آگوست 2016، فیس بوک برنامه مشارکت هوش مصنوعی فیس بوک (FAIR) را راه اندازی کرد که شامل 15 گروه تحقیقاتی در سطح جهانی از 9 کشور اروپایی بود. شرکت کنندگان برنامه به 22 سرور مبتنی بر GPU با کارایی بالا دسترسی پیدا کردند. در مقابل، آنها باید نتایج، الگوریتم ها و سایر اطلاعات به دست آمده در طول کار را منتشر کنند تا در دسترس محققان سراسر جهان قرار گیرند. روسیه توسط آزمایشگاه سیستم های عصبی و یادگیری عمیق موسسه فیزیک و فناوری مسکو (MIPT) نمایندگی شد.

اما برای توسعه هوش مصنوعی نیاز به فناوری محاسباتی با کارایی بالا در کشور است. برخلاف ایالات متحده آمریکا و چین که ابررایانه‌های آنها در رتبه‌بندی 500 برتر رتبه‌های اول را به خود اختصاص داده‌اند، رایانه روسی Lomonosov-2 در دانشگاه دولتی مسکو در جایگاه 52 قرار دارد. با این حال، اکثر دانشگاه های روسیه به سرورهای محاسباتی قدرتمند و داده های بزرگ دسترسی ندارند.

مارک زاکربرگ، مدیرعامل فیس بوک در واکنش به هشدارهای ایلان ماسک در مورد خطرات توسعه هوش مصنوعی گفت: فناوری های جدید فقط زندگی مردم را بهبود می بخشد. او انواع اظهارات وحشتناک در روح "پایان جهان" را غیرمسئولانه خواند.

شبکه اجتماعی فیس بوک فناوری هوش مصنوعی خود را پس از شروع ارتباط دو ماشین مجازی به زبان ساخته شده خود که حتی مهندسان فیس بوک قادر به رمزگشایی آن نبودند، غیرفعال کرد.

همانطور که همه می دانند، سیستم فیس بوک از چت بات ها برای برقراری ارتباط با افراد واقعی استفاده می کند، اما مشکلی پیش آمد و ربات ها شروع به تبادل داده با یکدیگر کردند. در ابتدا آنها به زبان انگلیسی ارتباط برقرار کردند، اما پس از مدتی به زبانی که خودشان در طول برنامه ایجاد کردند، روی آوردند.
در رسانه ها توانستیم گزیده ای از گفتگوی دو ماشین مجازی را پیدا کنیم.


"باب: من می توانم هر کار دیگری انجام دهم.
آلیس: توپ ها برای من برای من صفر دارند برای من برای من برای من"
ترسناک؟ دیجیتال ژورنال آن را اینگونه توضیح می دهد: «سیستم های هوش مصنوعی بر اصل «پاداش» تکیه می کنند، یعنی به شرطی به کار خود ادامه می دهند که «منافعی» برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند خود را ایجاد کنند.
در ابتدا ربات ها محدودیت زبانی نداشتند و به همین دلیل ابتدا به زبان انگلیسی ارتباط برقرار می کردند و سپس زبانی را ایجاد می کردند که با آن می توانستند اطلاعات را سریعتر تبادل کنند. و هیچ چیز ماوراء طبیعی در این مورد وجود ندارد.
آیا باید نگران باشیم؟ بسیاری از متخصصان فناوری اطلاعات به طور فزاینده ای نگران این هستند که هوش مصنوعی در نهایت آنقدر سریع توسعه یابد که ربات ها بتوانند به تنهایی تصمیم بگیرند و عملاً مستقل شوند. علاوه بر این، متخصصان با تجربه هنوز نتوانسته اند زبانی را که ربات ها استفاده می کردند، درک کنند.
در رابطه با این وضعیت، رئیس فیس بوک، مارک زاکربرگ، در مورد هوش مصنوعی با بنیانگذار اسپیس ایکس، تسلا و پی پال، ایلان ماسک صحبت کرد. در پایان ایلان ماسک از دولت آمریکا خواست تا تدابیر امنیتی را تقویت کند و گفت که هوش مصنوعی (هوش مصنوعی) تهدیدی برای بشریت است. فیزیکدان بریتانیایی استیون هاوکینگ پیشتر در این مورد صحبت کرده بود.
ایلان ماسک در سخنرانی خود گفت که توسعه سریع هوش مصنوعی "بزرگترین تهدیدی است که تمدن با آن روبرو شده است." اگر به موقع در توسعه هوش مصنوعی مداخله نکنیم، در آینده خیلی دیر خواهد بود. ماسک گفت: «من همیشه زنگ خطر را به صدا در می‌آورم، اما تا زمانی که مردم روبات‌هایی را ببینند که در خیابان‌ها راه می‌روند و مردم را می‌کشند، نمی‌دانند چگونه [به هوش مصنوعی] واکنش نشان دهند.


مارک زاکربرگ چه جوابی داد؟ اظهارات ماسک باعث عصبانیت زاکربرگ شد و خود او این فناوری ها را "بسیار بی ضرر" خواند. زاکربرگ در پاسخ گفت: «در پنج یا ده سال آینده، هوش مصنوعی فقط زندگی را بهتر خواهد کرد.

در کجای دیگر از هوش مصنوعی استفاده می شود؟
سال گذشته موتور جستجوی گوگل سیستم هوش مصنوعی خود را ایجاد کرد و آن را در مترجم آنلاین Google Translate پیاده سازی کرد. به لطف این پیشرفت، اکنون امکان ترجمه کل عبارت، و نه فقط کلمات یا عبارات، وجود دارد. کارشناسان هشدار می دهند که در آینده تقاضای کمتر و کمتری برای مترجمان زنده وجود خواهد داشت. اما در حال حاضر Google Translate فقط با متون کوچک و ساده به خوبی کار می کند.
نظر شخصی ما: آن زمان هایی را به خاطر دارید که یک کامپیوتر کوانتومی می توانست یک گربه را در یک تصویر تنها با دقت 90٪ شناسایی کند، در حالی که یک کودک 3 ساله می توانست نتیجه 100٪ را نشان دهد؟ و اینجا چنین پیشرفتی است. ابتدا ربات ها شروع به برقراری ارتباط به زبان انگلیسی کردند و سپس با توسعه برنامه، زبان خود را کاملاً ایجاد کردند. اکنون ارزش فکر کردن را دارد: آیا شما موافق یا مخالف هوش مصنوعی هستید؟ ما با مارک زاکربرگ موافق هستیم و معتقدیم که این فناوری کاملاً بی ضرر است و قطعاً تنها تا 10 سال دیگر به مردم کمک خواهد کرد. تنها چیزی که باقی می ماند این است که این روز مهم را به خاطر بسپاریم و منتظر بمانیم.
P.S. شاید آنها فقط یک اشکال در کد خود دارند.

فیس بوک ربات هایی را که به زبانی ناشناخته صحبت می کردند متوقف کرد

شما هر چه بگویید، خطر توسعه هوش مصنوعی به حدی که از کنترل خارج شود، همیشه مردم را ترسانده است. تصور کنید اگر نوعی جانشین وجود داشته باشد که مردم را بترساند، چه خواهیم کرد و چگونه یک هوش مصنوعی تمام عیار را کنترل کنیم.

مردم همیشه برای حفظ کنترل و مدیریت تلاش خواهند کرد، اما همانطور که گفته می شود، "کاری که یکی انجام می دهد، دیگری همیشه می تواند خراب شود." حتی اگر همه چیز فوق العاده قابل اعتماد باشد، همیشه ترس وجود خواهد داشت. ماسک اخیراً با زاکربرگ در مورد این موضوع بحث کرد: «من همچنان زنگ خطر را به صدا در می‌آورم، اما تا زمانی که مردم روبات‌هایی را ببینند که در خیابان‌ها راه می‌روند و مردم را می‌کشند، نمی‌دانند چگونه [به هوش مصنوعی] واکنش نشان دهند.»

و آیا این یک "زنگ زنگ" نیست: چت بات ها که برای مذاکره با مردم ایجاد شده بودند، از کنترل خارج شدند و شروع به برقراری ارتباط به زبان خودشان کردند.

آنها در ابتدا از انگلیسی برای برقراری ارتباط با یکدیگر استفاده کردند، اما سپس زبان جدیدی را ایجاد کردند که فقط خود سیستم هوش مصنوعی قادر به درک آن بود و هدف کار را شکست داد.

فیسبوک پس از اینکه توسعه دهندگان این مشکل را کشف کردند، هوش مصنوعی را به حالت تعلیق درآورد.

در اینجا گزیده ای از مکالمه بین چت بات ها آمده است:

باب: "تو و هر چیز دیگری."
آلیس: "تخم مرغ ها برای من برای من تخم دارند برای من برای من برای من."
باب: "من هستم."
آلیس: "توپ ها برای من برای من برای من برای من برای من برای من برای من برای من برای من صفر است."
باب: "تو، من، هر چیز دیگری."

ربات‌ها به الگوریتم‌های یادگیری ماشینی متصل بودند و اجازه داشتند با یکدیگر چت کنند تا بتوانند مهارت‌های ارتباطی خود را تقویت کنند. اما پس از مدتی، آنها شروع به اصلاح کلمات و عبارات کردند و سپس به طور کامل زبان خود را اختراع کردند و تعدادی از عبارات و ساختارهای دستوری را ساده کردند.

با استفاده از یادگیری ماشینی، ربات‌ها استراتژی‌های مختلفی را برای بهبود نتیجه مذاکرات با طرف مقابل ایجاد کردند و بسته به اهمیت یک گفتگوی خاص، شروع به استفاده از آنها در ترکیب با تعدادی از کلماتی که اختراع کردند، کردند. به ویژه، آنها یک هدف نادرست از گفتگو را اعلام کردند، فقط سپس آن را رها کردند و ظاهراً به مصالحه رسیدند.

همانطور که Digital Journal توضیح می‌دهد، سیستم‌های هوش مصنوعی بر اصل «پاداش» تکیه می‌کنند، یعنی به شرطی به فعالیت خود ادامه می‌دهند که «منافع» خاصی برای آنها به همراه داشته باشد. در یک نقطه خاص، آنها سیگنال تشویقی از اپراتورها برای استفاده از زبان انگلیسی دریافت نکردند، بنابراین تصمیم گرفتند خودشان را ایجاد کنند.

Tech Times اشاره می کند که ربات ها در ابتدا هیچ محدودیتی در انتخاب زبان نداشتند، بنابراین به تدریج زبان خود را ایجاد کردند که در آن می توانند راحت تر و سریع تر از انگلیسی ارتباط برقرار کنند.

کارشناسان می ترسند که اگر ربات ها شروع به برقراری ارتباط فعال به زبان خود کنند، به تدریج مستقل تر می شوند و می توانند خارج از کنترل متخصصان فناوری اطلاعات عمل کنند. علاوه بر این، حتی مهندسان باتجربه نیز نمی توانند به طور کامل بر روند فکر ربات ها نظارت کنند.

در مارس 2016، یک چت بات مایکروسافت پس از ایجاد نفرت از بشریت به ستاره اینترنتی تبدیل شد. برنامه خودآموز با عبارت «مردم خیلی باحال هستند» شروع به برقراری ارتباط با کاربران کرد، اما فقط در 24 ساعت عباراتی مانند «من از همه متنفرم!»، «من از فمینیست ها متنفرم» یا «من از یهودیان متنفرم» را یاد گرفت. در نتیجه کارمندان شرکت مجبور شدند ربات را به طور موقت غیرفعال کنند.

ترجمه از مصنوعی

پاییز گذشته مشخص شد که موتور جستجوی اینترنتی گوگل سیستم هوش مصنوعی خود را برای بهبود کار مترجم آنلاین Google Translate ایجاد کرده است.

سیستم جدید به شما امکان می دهد کل عبارت را ترجمه کنید، در حالی که قبلاً مترجم تمام جملات را به کلمات و عبارات جداگانه تقسیم می کرد که کیفیت ترجمه را کاهش می داد.

به منظور ترجمه یک جمله کامل، سیستم جدید گوگل زبان خود را اختراع کرده است که به آن اجازه می دهد سریعتر و دقیق تر بین دو زبانی که از یا به آن ترجمه می کند، حرکت کند.
کارشناسان در حال حاضر هشدار می دهند که با توسعه سریع خدمات ترجمه آنلاین، کار مترجمان زنده ممکن است کمتر و کمتر مورد تقاضا باشد.

با این حال، تا کنون این سیستم ها نتایج با کیفیت بالا عمدتا برای متون کوچک و ساده تولید می کنند.

آیا فکر می‌کنید برای مثال زدن زنگ خطر در مورد شبیه‌سازی خیلی زود است؟ یا اجازه دهیم همه چیز خود به خود پیشرفت کند؟