از آنجایی که قابلیت‌های فناوری پردازش زبان طبیعی همچنان در حال پیشرفت است، تبلیغات روزافزونی حول ظرفیت‌های پیدا و پنهان چت‌بات‌ها و سیستم‌های هوش مصنوعی محاوره‌ای شکل گرفته است. یکی از این سیستم‌ها – یعنی چت‌جی‌پی‌تی - ادعا می‌کند که می‌تواند در گفت‌وگوی طبیعی و شبه‌انسانی شرکت جسته و حتی اطلاعات و توصیه‌های مفیدی را ارائه دهد. با این حال، نگرانی‌های بحقی در مورد محدودیت‌های چت‌جی‌پی‌تی و دیگر سیستم‌های هوش مصنوعی محاوره‌ای و توانایی آن‌ها در «بازسازی» و «بازتولید» واقعی هوش و تعامل انسانی وجود دارد.
پاراگراف بالا را من ننوشته‌ام و نویسنده واقعی آن چت‌جی‌پی‌تی است. پس از اینکه از این برنامه خواستم تا «یک پاراگراف آغازین برای مقاله‌ای شک‌گرایانه در مورد توانایی‌های چت‌جی‌پی‌تی به سبک کنان مالک» بنویسد، این جملات را تحویل من داد. اگرچه ممکن است من این نثر را فاخر و بدیع ندانم، اما حقاً تلاشی چشمگیر و در خور توجه است. از این رو، فهمیدن این موضوع دشوار نیست که چرا از زمان انتشار چت جی‌پی‌تی، چنین هیجان و درواقع هیاهویی در مورد آخرین نسخه این چت‌بات به‌وجود آمده است.
چت‌جی‌پی‌تی که از حجم عظیم داده‌های ایجادشده توسط انسان تغذیه می‌کند، به‌دنبال نظم‌های آماری در این داده‌ها می‌گردد، می‌آموزد که چه کلمات و عباراتی با هم مرتبط هستند، بنابراین می‌تواند پیش‌بینی کند که چه کلماتی باید در هر جمله خاص قرار بگیرند و چگونه جملات با هم تطابق دارند. نتیجه ماشینی از کار درآمده که می‌تواند به‌طور متقاعدکننده‌ای زبان انسان را «تقلید» کند.
این ظرفیت تقلید به چت‌جی‌پی‌تی اجازه می‌دهد تا مقاله بنویسد، شعر بسراید، جوک تعریف کند، کد بنویسد و به پرسش‌های کودکان یا متخصص زبده پاسخ دهد؛ و این کار را آنقدر خوب انجام می‌دهد که بسیاری را در چند ماه گذشته همزمان خوشحال و وحشت‌زده کرده است. تیم کیتزمن، دانشمند شناختی نوشت: «مرگ انشاء فرا رسیده است»، دیدگاهی که توسط بسیاری از دانشگاهیان تقویت شده است. برخی دیگر این ادعا را مطرح کرده‌اند که چت‌جی‌پی‌تی موجب پایان گرفتن گوگل به‌عنوان موتور جست وجو خواهد شد و خود این برنامه فکر می‌کند که ممکن است بتواند جایگزین انسان‌ها در مشاغل مختلف، از نماینده بیمه تا منشی دادگاه شود.
با این حال، چت‌جی‌پی‌تی که می‌تواند چنین انشاء‌های درجه یکی بنویسد، به شما می‌گوید: «اگر یک زن بتواند در ۹ ماه یک نوزاد به دنیا بیاورد، ۹ زن می‌توانند در یک ماه یک نوزاد به دنیا بیاورند»؛ «وزن یک کیلو گوشت گاو بیشتر از یک کیلو هوای فشرده است»؛ و «خرده‌شیشه یک مکمل مفید برای سلامتی محسوب می‌شود.» چت‌جی‌پی‌تی می‌تواند حقایق را جعل کند و بسیاری از تعصبات دنیای انسانی را که براساس آن آموزش دیده است بازتولید کند.
اشتباهات چت‌جی‌پی‌تی می‌تواند به‌مراتب قانع‌کننده‌تر از استک اورفلو باشد، پلتفرمی درباره گستره وسیعی از مباحث برنامه‌نویسی که در سال ۲۰۰۸ توسط جف اتوود و جویل اسپولسکی ایجاد شد و کاربران را از ارسال پاسخ‌های تولیدشده توسط این چت‌بات منع می‌کند. مشکل اصلی این است که اگرچه پاسخ‌هایی که چت‌جی‌پی‌تی ارائه می‌کند دارای میزان بالایی از نادرست بودن هستند، معمولاً طوری به‌نظر می‌رسد که انگار ما با پاسخ خوب و منطقی مواجه‌ایم؛ یا همانطور که یکی از منتقدان صاحب‌نام می‌گوید: «پاسخ‌های چت‌جی‌پی‌تی یک چرت‌وپرت سلیس و روان است.»
برخی از این مشکلات به مرور زمان برطرف خواهند شد. هر مکالمه‌ای که با چت‌جی‌پی‌تی در پیوند باشد، بخشی از بانک اطلاعاتی می‌شود که برای بهبود برنامه مورد استفاده قرار می‌گیرد. نسل آتی چت‌جی‌پی‌تی، یعنی جی‌بی‌تی-۴، قرار است سال آینده عرضه شود که بی‌گمان متقاعد‌کننده‌تر خواهد بود و خطا‌های کمتری خواهد داشت.
با وجود این، فارغ از این بهبود تدریجی، یک مشکل اساسی وجود دارد که همه اشکال هوش مصنوعی با آن مواجه هستند؛ کامپیوتر نماد‌ها را دستکاری می‌کند. برنامه آن، مجموعه‌ای از قوانین را مشخص می‌کند که به‌واسطه آن می‌توان یک رشته از نماد‌ها را به رشته‌ای دیگر تبدیل کرد یا الگو‌های آماری را تشخیص داد. اما مشخص نمی‌کند که این نماد‌ها یا الگو‌ها به چه‌معنا هستند. اساساً برای یک کامپیوتر، معنی محلی از اعراب ندارد. هرچند چت‌جی‌پی‌تی می‌داند (دست‌کم در بیشتر مواقع) چه‌چیزی برای انسان معنادار به‌نظر می‌رسد، اما در مورد آنچه برای خودش معنادار است، هیچ درکی ندارد. به‌قول گری مارکوس، دانشمند شناختی: «چت‌جی‌پی‌تی مقلدی است که نمی‌داند از چه صحبت می‌کند.»
انسان‌ها نیز در تفکر، گفتار، خواندن و نوشتن نماد‌ها را دستکاری می‌کنند. اما برای انسان‌ها برخلاف کامپیوترها، معنا همه‌چیز است.
وقتی با یکدیگر ارتباط برقرار می‌کنیم، دست به انتقال معنا می‌زنیم. آنچه مهم است صرفاً بیرون یک رشته از نماد‌ها نیست، بلکه درون آن نیز مهم است. به عبارت دیگر، آنچه واجد اهمیت است فقط دستور زبان و نحوه چیدمان کلمات نیست، بلکه معنا نیز دارای اهمیت است. معنا برای انسان‌ها ازطریق وجود ما به‌عنوان موجودیت‌های اجتماعی که در جهان تجسد یافته و ریشه می‌دوانیم، ظاهر می‌شود. من صرفاً تا آنجایی که در جامعه‌ای متشکل از سایر موجودات متفکر، دارای احساس و سخنور زندگی می‌کنم و ارتباطم را با آن‌ها شکل می‌دهم، خود را معنا می‌کنم.
البته انسان‌ها دروغ می‌گویند، دست به فریبکاری می‌زنند، به سمت تئوری‌های توطئه کشیده می‌شوند و آن‌ها را ترویج می‌کنند که می‌تواند عواقب مخربی به دنبال داشته باشد. همه این‌ها نیز بخشی از «موجود اجتماعی بودن» است. ما عموماً انسان‌ها را دارای عیب و کاستی، بالقوه فریبکار یا لاف‌زن و یاوه‌گو می‌دانیم. با این حال، ما تمایل داریم ماشین‌ها را بی‌غرض و بی‌طرف بدانیم، یا اگر به مرحله ادراک و خودآگاهی برسند، آن‌ها را بالقوه شیطانی تلقی می‌کنیم. ما اغلب فراموش می‌کنیم که ماشین‌ها می‌توانند مغرضانه یا کاملاً اشتباه باشند، زیرا آن‌ها مانند انسان‌ها پای درجهان ندارند و به این دلیل که باید توسط انسان برنامه‌ریزی شوند و بر اساس داده‌های جمع‌آوری‌شده توسط انسان آموزش ببینند همواره در معرض سوءگیری و خطا قرار دارند.
ما همچنین در عصری زندگی می‌کنیم که در آن «سطح» اغلب بیش از «عمق» معنا اهمیت دارد. عصری که در آن سیاستمداران اغلب نه به این دلیل که یک سیاست اصولاً ضروری یا درست است، بلکه به این دلیل که مورد توجه گروه‌های هدف است، دنبال می‌کنند. عصری که در آن اغلب بافت اجتماعی اعمال یا گفتار افراد را نادیده می‌گیریم و مات و مبهوت ظواهر می‌شویم. عصری که در آن به‌قول جان وارنر، نویسنده و آموزشگر، دانش‌آموزان در سیستمی درس می‌خوانند که به جای «توسعه مهارت‌های نوشتاری و تفکر انتقادی، به چیز‌های سطحی امتیاز می‌دهد» و «به خاطر... نشخوار اطلاعات موجود» پاداش اعطا می‌کند. وارنر بر این باور است که برای چت‌جی‌پی‌تی نوشتن یک انشای درجه یک بسیار آسان به‌نظر می‌رسد، «زیرا عمدتاً حول محور چیز‌های سطحی است که ما برای آن‌ها ارزش زیادی قائل هستیم.»
هیچ یک از این‌ها به‌معنای کم‌ارزش جلوه دادن دستاورد‌های فنی قابل توجه چت‌جی‌پی‌تی نیست، یا اینکه نمی‌توان کتمان کرد که تعامل با آن تا چه‌اندازه شگفت‌انگیز است. بی‌گمان، چت‌جی‌پی‌تی به یک ابزار مفید تبدیل خواهد شد که به افزایش دانش و خلاقیت انسان کمک می‌کند. اما در عین حال ما باید دیدگاه مستقل خود را حفظ کنیم. چت‌جی‌پی‌تی نه‌تن‌ها پیشرفت‌های انجام شده در هوش مصنوعی بلکه محدودیت‌های آن را نیز نشان می‌دهد. همچنین کمک می‌کند تا پرتویی تابان روی ماهیت شناخت انسان و سرشت آن در جهان معاصر بیافکنیم.
بی‌درنگ چت‌جی‌پی‌تی سوالاتی را نیز در مورد چگونگی ارتباط با ماشین‌هایی که در فریبکاری و انتشار اطلاعات نادرست بسیار بهتر از خود انسان‌ها عمل می‌کنند، پیش می‌آورد. با توجه به مشکلاتی که در مقابله با اطلاعات نادرست انسانی وجود دارد، این‌ها سوالاتی نیستند که بتوان آن‌ها را به تعویق انداخت. ما نباید تا به این اندازه مسحور متقاعدکننده بودن چت‌جی‌پی‌تی شویم و مشکلات واقعی چنین برنامه‌هایی را فراموش کنیم.
منبع: هم‌میهن