به نقل از «خبرگزاری آریا»

هوش مصنوعي ممکن است انسان را به بردگي بگيرد

تاریخ انتشار: ۹ خرداد ۱۴۰۲ | کد خبر: ۳۷۸۶۳۷۰۸

خبرگزاری آریا-اگر به اندازه کافی آماده نباشیم، هوش مصنوعی ممکن است ما را نابود کند.
به گزارش خبرگزاری آریا به نقل ایندپندنت،در «حکایت ناتمام گنجشک‌ها»، گروهی از پرندگان کوچک نقشه می‌کشند تخم جغد را بگیرند و جوجه‌جغد را به عنوان خدمتکار خود بزرگ کنند. آن‌ها می‌گویند: «زندگی چقدر آسان می‌شد»، اگر جغد می‌توانست برای آن‌ها کار کند و آن‌ها می‌توانستند در فراغت و بدون کار روزگار بگذرانند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

گنجشک‌ها به رغم اخطارهای اعضای دسته خود مبنی بر اینکه آن‌ها پیش از بزرگ کردن جغد باید ابتدا نحوه رام کردن جغد را بیابند، تمام تلاش خود را صرف گیر آوردن یک تخم جغد می‌کنند.
این داستان همان‌گونه که از عنوانش پیدا است، پایانی ندارد. نویسنده آن، فیلسوف سوئدی، نیک باستروم، پایان آن را عامدانه باز گذاشته چرا که بر این باور است که بشر در حال حاضر در مورد هوش مصنوعی ابرانسان در مرحله شکار تخم جغد است.
این استاد دانشگاه آکسفورد در اثر مهم خود در زمینه هوش مصنوعی با عنوان «ابرهوش: مسیرها، خطرها، استراتژی‌ها»، معتقد است اگر به اندازه کافی آماده نباشیم، هوش مصنوعی ممکن است ما را نابود کند. ابرهوش که او آن را به عنوان نوعی هوش مصنوعی توصیف می‌کند که «تقریبا در همه حوزه‌های موردنظر از عملکرد شناختی انسان‌ها بسیار فراتر می‌رود»، ممکن است بسیار نزدیک‌تر از آن چیزی باشد که بسیاری تصور می‌کنند؛ به طوری که متخصصان هوش مصنوعی و چهره‌های برجسته این صنعت هشدار می‌دهند چنین چیزی ممکن است تنها چند سال با ما فاصله داشته باشد.
خالق چت‌جی‌پی‌تی روز دوشنبه، کتاب سال 2014 پروفسور باستروم را تکرار کرد و هشدار داد که پیشرفت ظاهرا تصاعدی فناوری هوش مصنوعی در سال‌های اخیر به این معنی است که ورود قریب‌الوقوع ابرهوش اجتناب‌ناپذیر است‌ــ‌و ما باید پیش از اینکه خیلی دیر شود، آماده شدن برای آن را شروع کنیم.
سم آلتمن، مدیر اوپن‌ای‌آی که چت‌بات هوش مصنوعی شرکت او سریع‌ترین برنامه رو‌به‌رشد در تاریخ است، پیش از این، کتاب پروفسور باستروم را «بهترین چیزی که در مورد این موضوع دیده‌ام» توصیف کرده بود. تنها یک سال پس از خواندن آن، آلتمن در کنار دیگر پیشگامان فناوری با نگرانی مشابه مانند ایلان ماسک و ایلیا سوتسکور، اوپن‌ای‌آی را به منظور درک بهتر و کاهش خطرات هوش مصنوعی پیشرفته تاسیس کرد.
اوپن‌ای‌آی که می‌توان گفت ابتدا به‌عنوان یک شرکت غیرانتفاعی راه‌اندازی شد، به یک شرکت خصوصی پیشرو در زمینه هوش مصنوعی، احتمالا نزدیک‌ترین شرکت برای دستیابی به ابرهوش، تبدیل شده است.
آلتمن بر این باور است که ابرهوش این ظرفیت را دارد که با انجام دادن اغلب کارهای ما، نه تنها یک زندگی آسوده و با فراغت به ما ارائه دهد، بلکه کلید درمان بیماری‌ها، از بین بردن رنج و تبدیل بشر به گونه‌ای میان‌ستاره‌ای را نیز در اختیار دارد.
او این هفته نوشت هرگونه تلاش برای جلوگیری از پیشرفت آن، «به طور غیر‌مستقیم خطرناک» خواهد بود و به «چیزی مانند یک رژیم نظارت جهانی» نیاز است که « اجرای آن عملا غیرممکن است».
آینده می‌تواند آنقدر خوب باشد که تصور آن برای هر یک از ما سخت است. برداشت اصلی من از این موضوع این است که ما هوش و انرژی «نامحدود» خواهیم داشت و همه این‌گره‌ها باز خواهند شد.
اما به موازات جنبه‌های مثبت، خطرات هم افزایش می یابد.
درک آنچه در حال حاضر در «ذهن» ابزارهای هوش مصنوعی در دسترس کنونی می‌گذرد، دشوار است اما هنگامی که به ابرهوش دست پیدا کنیم، حتی اقدام‌های آن ممکن است غیرقابل درک شود. ممکن است اکتشاف‌هایی انجام دهد که ما قادر به درک آن نباشیم یا تصمیم‌هایی بگیرد که برای ما بی‌معنی باشد. محدودیت‌های زیستی و تکاملی مغزهای ساخته‌شده از مواد آلی سبب می‌شود که ما احتمالا به نوعی رابط مغز و رایانه نیاز داشته باشیم تا از آن عقب نمانیم.
پروفسور باستروم هشدار می‌دهد که ناتوانی در رقابت با هوش مصنوعی در این دوره فناوری جدید می‌تواند بشر را به‌عنوان شکل غالب حیات روی زمین از جایگاه خود کنار بزند. ابرهوش ممکن است ما را در رسیدن به اهداف خود زائد و غیرضروری بداند. اگر این اتفاق بیفتد و برخی از انواع هوش مصنوعی بفهمند که چگونه می‌توان تمام ابزارها و فناوری‌هایی را که ما به آن‌ها تکیه داریم‌ــ یا حتی سلاح‌های هسته‌ای که در اختیار داریم‌ــ تصاحب کرد، آن‌گاه طولی نخواهد کشید که هوش مصنوعی ما را از روی کره زمین محو کند.
سناریو ملایم‌تر اما به همان شکل ناخوشایند این است که شکاف بین هوش ما و هوش مصنوعی سبب خواهد شد که هوش مصنوعی ما را به همان شیوه‌ای ببیند که ما حیوانات را می‌بینیم. در گفت‌وگوی سال 2015 بین ماسک و نیل دگراس تایسون، دانشمند، آن‌ها این نظریه را مطرح کردند که هوش مصنوعی با ما مانند یک حیوان خانگی [مثل] سگ لابرادور رفتار خواهد کرد. پروفسور تایسون گفت: «آن‌ها ما را اهلی خواهند کرد. آن‌ها انسان‌های مطیع را نگه می‌دارند و از شر افراد کنترل‌ناپذیر خلاص می‌شوند.»
ماسک در تلاش برای جلوگیری از این عاقبت، بخشی از ثروت هنگفت خود را به تامین مالی یک شرکت‌نوپای کارآفرین تراشه مغزی به نام نورالینک اختصاص داد. این دستگاه پیش از این روی میمون‌ها آزمایش شده است و به آن‌ها امکان می‌دهد با ذهن خود بازی‌های ویدیویی انجام دهند و هدف نهایی آن، تبدیل انسان به نوعی ابرهوش هیبریدی [ترکیبی] است. (منتقدان یادآور می‌شوند که این فناوری حتی در صورت موفقیت، به طور مشابه، جامعه‌ای طبقاتی متشکل از افراد تراشه‌دار و بی‌تراشه ایجاد می‌کند)
این میلیاردر فناوری از زمان جدا شدن از اوپن‌ای‌آی، در خصوص ظهور قریب‌الوقوع ابرهوش چند هشدار مطرح کرده است. در ماه مارس، او به بیش از هزار محققی پیوست که خواستار تعلیق موقت توسعه سیستم‌های هوش مصنوعی قدرتمند به مدت دست‌‌کم شش ماه شدند. آن‌ها در نامه‌ای سرگشاده نوشتند که این زمان، باید صرف پژوهش در خصوص تمهیدات ایمنی هوش مصنوعی شود تا از فاجعه جلوگیری به عمل آید.
اتفاق‌نظر و همسویی بعید میان شرکت‌های پیشرو هوش مصنوعی در سراسر جهان‌ــ که اغلب همگی به دنبال سود خودشان‌اندــ لازم است تا چنین وقفه‌ای کارآمد باشد و در حالی که اوپن‌ای‌آی به پیشگامی در شکار تخم جغد ادامه می‌دهد، به نظر می‌رسد دست‌کم آلتمن به هشدارهای داستان پروفسور بوستروم توجه کرده است.
او در مصاحبه‌ای با نیویورکر در سال 2016، فاش کرد که او یک «آماده‌کننده روز رستاخیز» است‌ــ به ویژه برای یک آخرالزمان مبتنی بر هوش مصنوعی. او گفت: «سعی می‌کنم زیاد به آن فکر نکنم» و افشا کرد که «اسلحه، طلا، یدید پتاسیم، آنتی‌بیوتیک، باتری، آب [و] ماسک‌های گاز» را در مخفیگاهی در روستایی در کالیفرنیا پنهان کرده است. حالا البته این طور نیست که هرکدام از این‌ها برای بقیه خیلی استفاده خواهد شد.


ایلان ماسک : این سلاح بشر را نابود خواهد کرد
 ایلان ماسک می‌گوید اگرچه احتمال نابودی بشر با هوش مصنوعی بسیار کم است، اما باید آن را جدی گرفت.
ماسک هشدار داد احتمال دارد هوش مصنوعی پیشرفته روزی منجر به نابودی بشر شود. او دربخشی از صحبت‌های اخیرش گفت: «احتمال دارد هوش مصنوعی به چیزی شبیه فیلم ترمیناتور تبدیل شود. البته این احتمال بسیار پایین است اما نمی‌توان آن را صفر در نظر گرفت و ما می‌خواهیم چنین احتمالی را تا حد امکان به صفر نزدیک‌کنیم.»
به‌گزارش NYPost، ماسک همچنین این احتمال را مطرح کرد که سیستم هوش مصنوعی پیشرفته تصمیم بگیرد انسان‌ها را تحت‌کنترل‌های بسیار شدید قرار دهد.
میلیاردر معروف اظهار داشت: «به‌عنوان مثال هوش مصنوعی می‌تواند تصمیم بگیرد همه‌ی سیستم‌های محاسباتی و سیستم‌های تسلیحاتی زمین را به تصاحب درآورد. یکی از راهکارهای دستیابی به صلح جهانی این است که همه‌ی سلاح‌ها را از انسان‌ها دور کنیم تا دیگر نتوانند از آن‌ها استفاده کنند و هر انسانی فعالیت‌های فراسرزمینی انجام داد، مجازات شود.»
کارشناسان اعلام کرده‌اند خطرات هوش مصنوعی شامل گسترش تبلیغات و محتوای نادرست، از دست رفتن بسیاری از مشاغل و حتی احتمال از دست رفتن کنترل تمدن کنونی بشر می‌شود. از طرفی پدرخوانده‌ی هوش مصنوعی، دکتر جفری هینتون هشدار داده است که افراد سودجو از هوش مصنوعی برای ایجاد هرج‌ومرج استفاده خواهند کرد.
ماسک در سخنرانی خود طی رویداد وال‌استریت ژورنال، هوش مصنوعی را به‌عنوان شمشیر دولبه برای بشریت توصیف کرد که می‌تواند پیامدهای مثبت و همچنین پیامدهای فاجعه‌باری به‌همراه داشته باشد.
ماسک می‌گوید: «وقتی شما چیزی دردسترس دارید که می‌تواند هر کاری را انجام دهد، این قطعاً خطرناک است.»

 نابودی دموکراسی توسط هوش مصنوعی
کارشناسان و محققان سر این مسئله که هوش مصنوعی نحوه کار و زندگی ما را تغییر خواهد داد اجماع دارند. همه تغییرات میزانی از ریسک را دارد، اما مقدار و طیف این ریسک بسیار مهم است. برخی معتقدند هوش مصنوعی می‌تواند تا جایی پیش برود که ذهن انسان را دستکاری کند.
بدبینانه‌ترین شکل ماجرا به‌دست‌آوردن قدرت و نابودی جهان است؛ اما حالت خوش‌بینانه آن ایجاد تصاویر نادرست، ویدئوهای نادرست است که در نهایت منجر به نابودی اعتماد می‌شود.
انسان در مواردی نمی‌تواند مطمئن باشد فلان سیاستمدار واقعاً این حرف را زده یا صدا و تصویر و متن و ویدئو ساخته هوش مصنوعی است. جسیکا سیسیل رئیس سابق دفتر بی‌بی‌سی و مؤسس «Trusted News Initiative» که با اطلاعات نادرست مبارزه می‌کند در مصاحبه با پرایم تایم گفت: «دموکراسی متکی بر این است که‌رای دهندگان بتوانند به اطلاعات واقعی دسترسی داشته و طبق بررسی و تحلیل ذهن خود آن را باور کرده یا نکنند و سپس گفتگویی مشترک پیرامون حقایق مورد توافق داشته باشند.» به‌عبارت‌دیگر هوش مصنوعی با ایجاد اطلاعات نادرست اعتماد مردم را از بین می‌برد و بدون اینکه افراد بدانند اطلاعاتی واقعی است یا نه نمی‌توانند بر اساس آن به فردی که واقعاً مدنظر آن‌هاست رأی دهند.

خالق هوش مصنوعی هشدار می‌دهد
جفری هینتون که اخیراً از سمت خود به‌عنوان معاون مهندسی گوگل استعفا داد تا زنگ خطرات هوش مصنوعی را به صدا در آورد، در مصاحبه‌ای که اخیراً از او منتشر شد هشدار داد که جهان باید راهی برای کنترل این فناوری درحال‌توسعه پیدا کند!
«پدرخوانده هوش مصنوعی»، در گفته‌های خود ضمن تأکید بر تأثیرات مثبت هوش مصنوعی در پزشکی، علم مواد، پیش‌بینی زلزله و سیل و…، معتقد است که تمام این فواید اگر باعث پیشی‌گرفتن هوش مصنوعی بر بشر شود، نه‌تنها بی‌فایده که ویرانگر خواهد بود.
هینتون همچنین معتقد است بسیاری از همکاران وی که از باهوش‌ترند مانند او نگران هستند. هینتون خاطرنشان کرد که باتوجه به مدل‌هایی مانند «Chat GPT»، هوش مصنوعی ممکن است کارها را کارآمدتر از مغز انسان انجام دهد. او معتقد است که نمی‌توان مطمئن بود که اهداف هوش مصنوعی به نفع انسان و هم راستا با منافع او باشد.
او همچنین تأکید کرد که «ممکن است هیچ راهی برای جلوگیری از یک پایان بد نباشد؛ اما واضح است که انسان‌های باهوش و متخصص قادرند راهی برای مقابله با این چالش بیابند؛ اما این اتفاق باید قبل از اینکه هوش مصنوعی خیلی باهوش شود بیفتد!»

منبع: خبرگزاری آریا

کلیدواژه: ایلان ماسک هوش مصنوعی هوش مصنوعی هوش مصنوعی اوپن ای آی انسان ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.aryanews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری آریا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۸۶۳۷۰۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

هوش مصنوعی توانست ویرایش ژنی را هدفمند کند

به گزارش خبرگزاری علم و فناوری آنا به نقل از نیویورک‌تایمز، محققان آمریکایی یک سیستم هوش مصنوعی مولد ساخته‌اند که می‌تواند به مکانیسم‌های میکروسکوپی زیستی نقشه راه بدهد تا دی ان ای انسان را ویرایش کند.

فناوری جدید این پژوهشگران که اهل برکلی آمریکا هستند مبتنی بر همان روش‌هایی است که چت‌جی‌پی‌تی را هدایت می‌کند و در واقع یک چت‌بات آنلاین است که از هوش مصنوعی برای تجزیه‌و‌تحلیلِ حجم وسیعی از داده‌ها مانند مقالات ویکی‌پدیا، کتاب‌ها و گزارش‌های چت برای تولید زبان استفاده می‌کند.

این فناوری که پروفلوئنت (Profluent) نام دارد، مقادیر عظیمی از داده‌های زیستی، از جمله مکانیسم‌های میکروسکوپیِ مورد استفاده دانشمندان برای ویرایش دی ان‌ای انسان را تجزیه و تحلیل می‌کند تا ویرایشگر‌های ژنی جدید ایجاد کنند.

این ویرایشگر‌های ژن، بر اساس روش‌های برنده جایزه نوبل عمل می‌کنند که مکانیسم‌های زیستی معروف به کریسپر (CRISPR) را شامل می‌شوند. فناوری مبتنی بر کریسپر در حال حاضر روش مطالعه و مبارزه دانشمندان با بیماری‌ها را تغییر می‌دهد و راهی برای تغییر ژن‌هایی ارائه می‌دهد که باعث بیماری‌های ارثی مانند کم‌خونی سلول داسی شکل و نابینایی می‌شوند.

پروفلوئنت از یکی از ویرایشگر‌های ژن تولید‌شده توسط هوش مصنوعی به نام اُپن کریسپر-۱ (OpenCRISPR-۱) برای ویرایش دی ان‌ای انسان استفاده کرده است.

فناوری هوش مصنوعی پروفلوئنت توسط یک شبکه عصبی هدایت می‌شود، یک سیستم ریاضی که مهارت‌ها را با تجزیه و تحلیل حجم وسیعی از داده‌ها یاد می‌گیرد. پروفلوئنت رفتار ویرایشگر‌های ژن کریسپر را که از طبیع استخراج شده‌اند تجزیه‌وتحلیل می‌کند و می‌آموزد که چگونه ویرایشگر‌های ژن کاملاً جدید ایجاد کند.

این پروژه بخشی از یک تلاش گسترده‌تر برای توسعه فناوری‌های هوش مصنوعی است که می‌تواند مراقبت‌های پزشکی را بهبود بخشد. به عنوان مثال، دانشمندان دانشگاه واشنگتن از روش‌های چت‌بات‌هایی، چون چت‌جی‌پی‌تی و نرم‌افزار‌های ساخت عکس مانند  میدجرنی (Midjourney) برای ایجاد پروتئین‌های کاملاً جدید استفاده می‌کنند. این پروتئین‌ها مولکول‌هایی میکروسکوپی هستند که تمام زندگی انسان را هدایت می‌کنند و نقش مهمی در تسریع توسعه واکسن‌های جدید دارند.

انتهای پیام/

نازنین احسانی طباطبایی