هشدار درباره ترجمه با هوش مصنوعی: نشر معتبر نباید چراغ سبز بدهد

فرارو- هوش مصنوعی به صنعت نشر ایران هم وارد شد، این‌بار با ترجمه کتاب‌های فلسفی، روان‌شناختی و علمی توسط نشر هرمس. همین موضوع، بحث درباره مرز میان فناوری و کنش انسانی در ترجمه را دوباره مطرح کرده. در حالی که مدیران هرمس این تجربه را تلاشی برای مواجهه فعال با هوش مصنوعی و تقویت زبان فارسی می‌دانند، ناصر فکوهی، انسان‌شناس و استاد دانشگاه تهران، با نگاهی انتقادی هشدار می‌دهد که استفاده سیستماتیک از هوش مصنوعی در ترجمه، به‌ویژه از سوی یک ناشر معتبر، می‌تواند به عادی‌سازی حذف نقش مترجم و تقویت منطق سود در بازار نشر منجر شود.

به گزارش فرارو، به باور فکوهی «وقتی یک نشر معتبر و الگوی کار باکیفیت، دست به استفاده سیستماتیک از هوش مصنوعی بزند، این می‌تواند به چراغ سبزی تبدیل شود برای هرگونه عمل ناشایست» و در نهایت ترجمه را از یک کنش فرهنگی به محصولی صنعتی تبدیل کند.

هوش مصنوعی و آشفته بازار نشرِ ما 

مشروح گفتگوی فرارو با ناصر فکوهی، انسان‌شناس و استاد دانشگاه تهران را در ادامه بخوانید.

*شما پیش‌تر تاکید کرده‌اید که هوش مصنوعی در نهایت به ساختارهای زبانی بزرگ تقلیل می‌یابد و فاقد بدن، کُنش، ذهنیت، عواطف و احساسات و حرکت واقعی انسانی است؛ در حالی که واحد بنیادین علوم انسانی و اجتماعی، کُنش است نه صرفاً کلمه یا اندیشه. رویکرد شما به هوش‌ مصنوعی در این زمینه چیست؟

من همواره رویکردهای ضدفناورانه مطلق یا گونه‌ای فناوری‌هراسی (technophobia) را به طور خام، نفی کرده‌ام. قابلیت انسان (ساپینس) به مثابه یک کنشگر ابزارساز(homo faber) و سخنگو(homo loquax) بود که او را تبدیل به انسان کنونی کرد. این انسان البته به قول ژان ژاک روسو، به نوعی از طبیعت گُسست یافته و خود را در موقعیت زیست «شهری» یا «تمدنی» قرار داده است. همین امر نیز زندگی را برای او در بسیاری موارد با مشکلات و بن‌بست‌های معنایی آکنده: مصرف بیش‌ از اندازه و فشار بر طبیعت بدین ترتیب در محور زندگی او قرار گرفته و نظام سرمایه‌داری را برایش ناگزیر کرده است. 

اما امر «فناورانه»، به مثابه بخش مادی فرهنگ، لزوما و به شکلی خودکار نه تضادی با طبیعت دارد و نه جایگزین طبیعت می‌شود، بلکه خود بخشی از طبیعت است. کما اینکه قابلیت‌های ابزارسازی و زبانی انسان‌ها، نه در گُسست با جهان جانوری/ طبیعی، بلکه در تداوم آن قرار دارد. رفتارشناسان جانوری، نظیر فرانس دو وال (1) و فیلسوفان اخلاق نظیر الیزابت دوفونتنه (2)، سال‌هاست بر این نکات، بر وجود هوش و قابلیت‌ها و احساس و حتی همدلی و گونه‌ای اخلاق در جانوران تاکید دارند. 

حال اگر فناوری را جزئی از فرهنگ و در پیوستاری میان جانور و انسان بدانیم، در این صورت دلیلی برای فناوری‌هراسی نباید داشت. آنچه هراس‌آور است، نه فناوری بلکه سوء‌نیت انسان‌هایی است که یا ابزارهایی خطرناک می‌سازند تا به یکدیگر و جهان آسیب برسانند (نظیر تسلیحات و فناوری‌های کشتار و تخریب) و یا استفاده ناشایست و سودجویانه و جنایتکارانه‌ای است که از این ابزارها می‌شود. مارتین هایدگر، همواره تاکید داشت که ضدیتی با فنون ندارد زیرا بر این باور است که «فناوری فکر نمی‌کند». این انسان است که فکر می‌کند و در رابطه‌ای با جهان (چه طبیعت چه انسان‌های دیگر) قرار می‌گیرد که می‌تواند شاعرانه و خلاق یا زیبایی‌شناختی باشد و یا برعکس، ویرانگر، سودجویانه و خشونت‌آمیز. 

و اینکه امروز سرمایه‌داری بدل به تنها شکل ممکن رابطه انسان با جهان شده، نه به دلیل  نبود امکان دیگری برای این رابطه، بلکه به دلیل تعمد قدرت‌ها در ناممکن کردن عملی همه آلترناتیوهای دیگر در برابر سرمایه‌داری است همان‌گونه که پاتریک شاموازو (برنده جایزه ادبی گنکور) در گفتگویی با ادوین پلنل نه با رویکردی همیشه رایج و سیاسی بلکه از نقطه نظری انسان‌دوستانه و اخلاقی  بر آن تاکید و به خوبی تشریحش می‌کند (3). 

از این رو از ابتدای انقلاب، رایانه‌ای که سپس به اینترنت‌، موتورهای جستجو و امروز به هوش مصنوعی و فردا شاید به «هوش مصنوعی تعمیم‌یافته» (Artificial General Intelligence -AGI) یا اوج این فناوری برسد، به خودی خود خطر ندارد. اینجا ما با یک «بمب اتمی» یا «هیدروژنی» یا «میکروبی» روبرو نیستیم که نتوان هدفی جز مرگ و ویرانی و رنج و درد برایش متصور شد. کاربردهای هوش‌مصنوعی در تداوم سایر ابزارها رایانه‌ای متاخر همچون موتورهای جستجوی پیشرفته قرار می‌گیرد و در دموکراتیزه کردن شناخت، در پیشبرد علوم به ویژه پزشکی و محیط زیست، بهتر کردن زندگی انسان‌ها و سایر موجودات بی‌نهایت است. 

اما خطر در انسان‌هاست که از خلال قدرت‌های سیاسی و سرمایه‌داری می‌توانند از این ابزار یک فناوری خطرناک بسازند که هم موقعیت انسان‌ها را تهدید کند و هم حتی  خطر پتانسیل نابودی  انسانیت، اندیشه و عواطف انسانی  و در نهایت خطر ضربه زدن هر چه شدیدتری به طبیعت را ایجاد کند و تاکنون نیز در این راه پیش رفته‌اند. به همین دلیل من خود به صورت پیوسته از هوش مصنوعی به مثابه یک دستیار  استفاده می‌کنم. چندین ماه پیش برای نخستین بار گفتگویی درباره رابطه خشونت و دموکراسی  را که با هوش مصنوعی انجام داده بودم در «فرارو» منتشر کردم (19 خرداد 1405)(4) . البته هرنوع کار و تعامل با هوش مصنوعی باید همیشه با دانش لازم و با نگه داشتن نگاهی انتقادی باشد. و آنچه در این مورد خاص هم می‌خواهم بگویم بر همین اساس است. 

سرانجام و تنها برای طرح مباحثی که درباره هوش مصنوعی در حال حاضر در جریان است باید به دو موقعیت بحران دیگر که درباره آن مطرح می شود نیز اشاره کنیم یکی آنچه «توهم‌زایی هوش مصنوعی» (AI Hallucination) نامیده می‌شود یعنی خطر تبدیل  نتایج آن به گونه‌ای «شبه‌حقیقت» بر اساس تراکم و تواتر واژگان  و مفاهیم تبدیل شده به زبان؛ و دیگر پدیده  و دیگری پدیده‌ای که به آن نام «فروپاشی مدل» (Model Collapse) داده‌اند یعنی کپی برداری هوش‌های مصنوعی از یکدیگر و از نتایج یکدیگر (از جمله در ترجمه) که به شدت کیفیت نهایی را تصنعی، بی‌کیفیت و احتمالا سطحی می‌کند. 

*انتشار مجموعه‌ای از کتاب‌های فلسفی، روان‌شناختی و علمی که عمدتا با کمک هوش مصنوعی ترجمه و سپس ویرایش انسانی شده‌اند (مورد نشر هرمس)، از منظر شما چه تغییری در ماهیت «ترجمه به‌مثابه کنش فرهنگی» ایجاد می‌کند؟

 در مورد این کتاب‌ها ابتدا بگویم، این کار هر‌چند تاکنون به این صورت در ایران انجام نشده بود در جهان چندین پیشینه دارد از جمله  انتشارات تایلر و فرانسیس (5) ، ددالوس کتاب ترکیه (6)، آمازون(7)  و... 

این رویکرد عموما  در شرایطی انجام می‌گیرد که میزان قابل توجهی از کتاب‌ها برای ترجمه وجود داشته باشند ولی شانس یافتن مترجم انسانی برای آن‌ها کم باشد. در غیر این صورت، اصل بر آن است که همیشه ترجمه به وسیله مترجم انسانی انجام بگیرد و این شرط کیفیت آن است که البته می‌تواند با بهره گرفتن انتقادی از هوش مصنوعی به بهتر شدن کار کمک کند. این امر حتی به هیچ وجه نیاز و کار ویرایشگر انسانی را زیر پرسش نمی‌برد که آن هم کیفیت را بالا می‌برد. 

اما دو مشکل اساسی در این شرایط وجود دارند که بهره‌برداری از این فناوری را خطرناک می‌کنند. مشکل نخست آن است که منطق سرمایه داری و به قول آدرونو منطق «صنعت فرهنگ» و بازار و کالایی کردن فرهنگ و هنر، جایگزین منطق اندیشه و هنر و خلاقیت شده باشد یا بخواهد بشود. یعنی  در ترجمه و تالیف یک کتاب، یک اثر هنری و یا در رابطه با آن، هدف نه ایجاد رابطه‌ای معنایی (معنوی) با جهان، با طبیعت و با انسان‌های دیگر و رسیدن به موقعیتی بهتر در جهت زیست‌محورانه (biocentrism)، بلکه بالا بردن سود از خلال کوتاه کردن زمان کار باشد. روشن است که اگر یک ترجمه انسانی سه یا شش ماه وقت بگیرد یعنی برای مثال، هزار تا دو‌هزار ساعت کار یا بیشتر، منطق سرمایه‌داری حُکم می‌کند که این زمان را با هوش‌ مصنوعی به یک صدم و یا کمتر برساند و بدین ترتیب هزینه‌ها را تقسیم به صد کند و سود خود را ده‌ها برابر بالا ببرد. 

وقتی از دریچه دید سود‌جویانه به موضوع نگاه شود، همه چیز منطقی به نظر می‌رسد. و هیچ توجهی به کیفیت و ارزش‌های انسانی و زیستی تخریب‌شده  و پی‌آمدهای فرهنگی و اقتصادی و سیاسی و اجتماعی آن‌ها نمی‌شود. از این هم بدتر وقتی سودجویی سرمایه‌دارانه با قدرت‌طلبی مرگبار ترکیب می‌شوند، ما به موقعیت‌هایی هراسناک و دیستوپیایی می‌رسیم (مثلا گزینش اهداف بمباران‌های جنگی با هوش مصنوعی) که موضوع بحث من در اینجا نیست. اما  می‌خواهم بگویم که گفتمان توجیه‌کننده‌ای که هوش‌مصنوعی را به مثابه عامل بالا بردن کیفیت کار اعلام می‌کند، عموما یک گفتمان دستکاری‌کننده واقعیت است. به همین دلیل نیز در همه مواردی که در بالا به عنوان نمونه‌های مشابه این موضوع در کشورهای دیگر نام بردم نیز، اتحادیه‌های مترجمان  و ویراستاران به میدان آمده و خواستار دفاع از حق و حقوق خود شده بودند. چرا که به درستی استدلال می‌کردند هوش مصنوعی با بهره بردن از شناخت  و تجربه زیستی آن‌ها در کارهایشان، ابزارهایی را می سازد که بدون توجه به مالکیت بر حق و زحمات آن‌ها، تجربه‌هایشان را به خدمت سرمایه‌داری و سود بیشتر برای ناشران در می‌آورد و تازه این کار را با ناشایستگی به عنوان «بالا بردن کیفیت فرهنگی» هم مطرح می‌کنند. 

حال وقتی به تجربه فرهنگی کشور خودمان بنگریم  باید اذعان کنیم  محیط نشری که این کار درونشان انجام می‌گیرد به دلیل نبود قانون کپی‌رایت و روابط سالم‌، محیطی است بسیار آسیب‌زده و آسیب‌زا. بازار نشر در ایران به دلیل نبود قوانین  و یا عدم اجرای آن‌ها، انفراد از بازار جهانی و عملکرد نادرست و غیر‌اخلاقی بسیاری از ناشران و پدیدآورندگان کتاب اعم از مولف و مترجم، بازاری مغشوش را نشان می‌دهد که سال‌های سال است مناسبات درونش مورد انتقاد اکثر پژوهشگران و کنشگران درونی و بیرونی‌اش قرار دارد. 

اگر  تا دیروز ترجمه‌های سرقت شده از دیگران، انتشار غیر‌قانونی کتاب‌ها، تقلب در تالیف آثار، کتاب‌سازی و جریان‌های زرد، آفت‌های این بازار بودند، امروز نه تنها این آفات از بین‌نرفته‌اند، بلکه آفت هوش مصنوعی هم به آن‌ها افزوده شده است. یعنی  پیوسته مشاهده می‌کنیم که مترجمان تازه‌کار به جای وقت گذاشتن و کار روی کتاب‌ها همه زحمات نکشیده خود را به هوش مصنوعی  واگذار کنند و خود هم «دستی بر سر و روی ترجمه می‌کشند». 

در این شرایط باید بسیار دقت داشت که وقتی یک نشر معتبر و الگوی کار با کیفیت، دست به استفاده  سیستماتیک از هوش مصنوعی بزند  حال با هر نیت مثبتی که در ذهن خود داشته باشد، این می‌تواند به چراغ سبزی تبدیل شود برای هرگونه عمل ناشایست و تخریب بیشتری در استفاده از یک فناوری مدرن و سودمند برای فرهنگ. 

در این صورت دیگر ما با «ترجمه به مثابه کُنش فرهنگی» روبرو نیستیم، همان طور که ممکن است با «تالیف به مثابه کُنش فرهنگی» روبرو نباشیم، بلکه با کُنش‌هایی سودجویانه یا قدرت‌طلبانه در منطق همان ترکیبی که بارها از آن انتقاد کرده‌ایم، یعنی پیوند شوم و خطرناک سرمایه‌داری و فناوری با شعارهای پوپولیستی بهبود و دسترسی بیشتر و تسهیل به شناخت دموکراتیک روبرو خواهیم شد. کُنشگر فکری نیز در اینجا یا غایب خواهد بود و یا نابود شده و به سوی گونه‌ای بلاهت خودخواسته می‌رود.            

*در نشست‌های پیشین اشاره کرده‌اید که هرچند هوش مصنوعی می‌تواند داده‌ها را با سرعت و مقیاس بالا پردازش کند، اما تفسیر روابط انسانی، معانی عمیق اجتماعی و بافت فرهنگی همچنان نیازمند دانش علوم انسانی است. آیا ورود شتاب‌زده ناشران به ترجمه ماشینی متون پیچیده، خطر تقویت این توهم را ندارد که پردازش زبانی می‌تواند جایگزین تفسیر انسانی شود؟ و این امر چه پیامدی برای جایگاه علوم انسانی در تولید دانش به زبان فارسی دارد؟

دقیقا چنین است. رابطه یک مترجم با یک اثر ترجمه شده یا رابطه یک مولف با یک تالیف علمی یا ادبی، همچون رابطه‌ای است (یا بهتر است بگوییم باید باشد) که یک هنرمند با موضوع خلاقیت خود دارد. اتفاقا به نظر من اگر از چارچوب لزوما «متن» خارج شده و مثلا وارد چارچوب «شعر» و «ادبیات» و هنرهای تجسمی شویم موضوع را بهتر درک می‌کنیم. اگر تصور ما آن باشد که هوش مصنوعی پیشرفته نمی‌تواند در تقلید از یک شاعر‌ یا یک مجسمه‌ساز یا یک نقاش و یک اندیشمند، نمونه‌هایی جدید بسازد یا حتی «ابداع» کند، این تصور به سرعت با واقعیت‌های موجود روی شبکه و قابلیت‌هایی که هر کسی می‌تواند به سرعت روی اپلیکیشین‌ها جدید هوش مصنوعی پیدا کند، در تضاد قرار می‌گیرد. 

همین امروز هوش مصنوعی می‌تواند موسیقی و اشعاری بسازد، یا عکس‌ها و تصاویری تولید کند یا کتاب‌هایی بنویسد و ترجمه کند که  هیچ انسانی نتواند نسبت به غیر‌انسانی بودن آن‌ها شک کند. یووال نوح هراری در یکی از  گفتگوهای اخیرش با اکونومیست (8) می گوید: بسیار نمونه‌های جعل شده از گفتگوهای من ساخته می‌شود که بعضی از آن‌ها را دوستان و خانواده‌ام برایم می‌فرستند و می‌پرسند: آیا این گفتگویم واقعی است یا جعلی و یکی از آن‌‌ها را خودم هم تماشا کردم و حتی خود من، یک دقیقه و نیم طول کشید تا مطمئن شوم این گفتگو جعلی است و هوش مصنوعی آن را ساخته است. چندین خواننده و نوازنده و هنرپیشه هم‌، هم اکنون در شبکه‌ها با هوش مصنوعی ساخته شده‌اند که گاه طرفداران زیادی هم دارند. به گزارش روزنامه گاردین مارس 2026 (9) یک خواننده ایرانی ساخته شده با هوش مصنوعی به نام «نوا» تنها در اینستاگرام بیش از 13 میلیون تماشا داشته است.  

در اینجا البته بحث میان «اصل» و «بدل» می‌رسد که بحثی قدیمی در هنر و زیبایی‌شناسی است و بی‌شک باید در آن به والتر بنیامین و رساله معروفش درباره «کار هنر در عصر بازتولید مکانیکی» (1935)(10) اشاره کرد. در اینجا بنیامین بر اهمیت فرایند کُنش در تولید اثر هنری تاکید دارد که در فرایند بازتولید آن از میان می‌رود و به امری «صنعتی» تبدیل می‌شود. همین‌طور، بسیار نزدیکتر به خودمان، جا دارد به عباس‌کیارستمی و فیلم زیبایش «کپی برابر اصل» (Certified Copy)(2010) نیز اشاره کنیم. این نگاره تا امروز و در رابطه با اصل و بدل در سپهر اینترنتی و هوش‌ مصنوعی نیز ادامه یافته و از جمله می‌توان نگاه کرد به مک‌لاکلین(11)، میائو (12) و بیانکی(13) که دقیقا در این موارد بحث می‌کنند. 

اما باید از این بحث  فراتر رفت. انسانی‌ بودن را من در سطحی فرازش یافته‌تر (sublimation) مطرح می‌کنم یعنی زیست‌محور بودن، چه در کنشگر، چه در زمان و چه در فضا و چه در رابطه با بسترهای تاریخی و حافظه‌ای و اجتماعی و سیاسی دیگر. 

مدل‌های بزرگ زبانی (Large Language Models -LLMs) که هوش مصنوعی از آن‌ها استفاده می‌کنند، «فکر» نیستند. هرچند ما هنوز دقیقا نمی‌دانیم «فکر» چیست و آن را در مجموعه پیچیده‌ای از روابط الکتروشیمیایی سیناپتیک (همایه‌ای) تعریف می‌کنیم (14)، اما اصل زیستی‌ بودن و بسترمند بودن خاطره‌ای و حسی را نمی‌توانیم در آن نایدیده بگیریم. از این رو، هنرمند شدن، شاعر شدن، مترجم شدن، نویسنده شدن و... همواره شامل مجموعه‌ای از روایت‌های در‌هم‌تنیده حسی و تجربی و به زبانی دیگر شاعرانگی (بوطیقا) و زیبایی‌شناختی (استتیک) است که با عناصر شناختی و فرهنگی دیگر ترکیب می‌شوند.  

و بحث از این هم فراتر می‌رود و به آن روندی می‌رسد که رولان بارت به آن «مرگ مولف»(1967) (15) نام می‌داد. یعنی آنکه اثر هنری پس از آنکه از مولف خود جدا می شود یک حیات مستقل می‌‌یابد اما چیزی که باید در اینجا افزود این است، که این اثر (ترجمه، شیئی، نقاشی، متن...) تنها در چارچوبی از روایت‌های انسانی  قابل  درک و احساس و فهمیده شدن خواهد بود. وقتی خواننده‌ای یک ترجمه را می‌خواند با شناختی که از مترجم و کارهای دیگر او  دارد و شناختی که از نویسنده اصلی و کارهای او و از فرهنگ همه کسانی که درخلق این اثر نقش داشته‌اند و سرانجام در چارچوب شخصیت، زبان، فرهنگ و تجربه زیسته‌ خودش آن را بازآفرینی می‌کند. 

حال اگر کار به هوش مصنوعی بدون انسان سپرده شود. ولو به صورتی که در این تجربه نشر هرمس مطرح شده، یعنی جای مترجم را به «چندین گروه متخصص در زبان و ادبیات و فلسفه و غیره» داده باشیم، عملا حرکتی از «اصل» به «بدل» انجام داده‌ایم. بسیاری از خوانندگان پتانسیل یک اثر را یا به دلیل «نام» نویسنده می‌خرند، یا به دلیل «نام» مترجم، یا «نام» ناشر یا حتی «شکل و شمایل» اثر، اما همه این‌ها اگر استنادهای «زیسته»، واقعی یا ادعا شده داشته باشند، می‌توانند موثر واقع شوند و قاعدتا آمدن نام «هوش مصنوعی» به جای یک مترجم خوشنام، همان اندازه به یک کتاب ضربه خواهد زد که  ما به دیدار تماشای آثار نقاشی و مجسمه‌سازی، یا به خواندن رُمان‌ها و اشعار و تماشای فیلم‌ها یا شنیدن موسیقی‌هایی برویم که هوش مصنوعی ساخته است. این‌ها همه، برای نخست یا بارهای نخست جذاب هستند (همان‌طور که در پدیده «نوا» دیدیم) چون انگیزه‌ای از کنجکاوی و «رمزآمیز بودن» برایشان وجود دارد، اما به سرعتی باور‌نکردنی سبب بی‌اعتبار و کنار گذاشته شدن می‌شوند. همان‌گونه که میان یک جواهر «اصل» و بازتولید «مصنوعی» آن می‌توان دید.  

برای اینکه این روند را بهتردرک کنیم، می‌توانیم از آنچه محصولات فرهنگی نامیده می‌شود به پدیده‌هایی که موقعیت‌های زیستی هستند، گذار کنیم. چند نفر انسان حاضرند قبول‌ کنند که به جای گوشت و سبزی و میوه واقعی (هر چند پرورش‌یافته در شرایط کارخانه‌ای) گوشت و سبزی و میوه «ساختگی» (در معنای «ذات متفاوت») بخورند؟ چند نفر حاضرند (در صورت ناچار نبودن مثلا به دلایل فقر اقتصادی) در یک سوپر مارکت، بین میوه‌های واقعی و میوه‌های ساختگی‌، مورد دوم را انتخاب کنند؟ 

تجربه‌ای که چندین سال پیش در یک فناوری غذای انجام شد و آن مهندسی ژنتیک بر محصولات غذایی بود نشان داد که وقتی تولید کنندگان به دلیل فشار افکار عمومی و ضوابط قانونی ناچار شدند روی محصولات مهندسی شده، اتیکت «زیست‌مهندسی شده» (Contains a bioengineered food ingredient) بیاورند، مشتریان خود را از دست دادند. در ۲۰۱۶ کنگره آمریکا قانون این استاندارد (National Bioengineered Food Disclosure Standard) را تصویب کرد و USDA مسئول اجرای استاندارد شد؛ الزام افشای ملی از ۱ ژانویه ۲۰۲۲ به مرحله اجرای اجباری رسید. در حالی که فناوری این امر به دهه 1970 و 1980 می‌رسید و از 1994 محصولاتش (گوجه فرنگی) به بازار آمده بود. بنابراین تولیدکنندگکان ترجیح می‌دادند درباره منشا آن سکوت کنند. 

به نظر من مقایسه غذاهای مهندسی‌شده ژنتیک با غذاهای «طبیعی» (ولو پرورش یافته) بسیار بیشتر شبیه مقایسه یک ترجمه انسانی واقعی با یک ترجمه مهندسی‌شده هوش مصنوعی است، تا مقایسه پیشین که گفتم گوشت یا میوه «طبیعی» را با یک گوشت و میوه «مصنوعی» (مثلا یک قرصیا چیزی شبیه آن) مقایسه کنیم. 

اما همین کار باعث شد که ادامه روند  بازار سازی از این محصولات تغییر کند و جای خودش را به محلات «بیو» بدهد که بحث خودش را دارد و آن هم زیاد موفق نبوده است. با این تجربه به عقیده من هر کار فرهنگی، هنری، ادبی و علمی که در آن هوش مصنوعی به کار گرفته شده، علاوه بر نظارت بالاسری انسانی و ماشینی بر آن باید باشفافیت کامل در خود کار نیز قید شود.  

*شما همواره بر اولویت فرهنگ بر فناوری تأکید داشته‌اید و توسعه صرفاً فناورانه-اقتصادی را ناکافی و گاه آسیب‌زا دانسته‌اید. ناشران مدافع این پروژه استدلال می‌کنند که ورود فعال به فضای هوش مصنوعی برای تقویت پیکره زبان فارسی و جلوگیری از مصرف‌کنندگی فرهنگی ضروری است. از دیدگاه شما، این استدلال تا چه اندازه با منطق «فرهنگ به‌عنوان محور توسعه» سازگار است و تا چه حد ممکن است خود به بازتولید منطق فناوری‌محور منجر شود؟

کمی آشنایی به فناوری هوش مصنوعی، زبان‌شناسی و فرایندهای ترجمه، نادرستی این استدلال را روشن می کند. عرضه کردن کتاب‌های ترجمه شده با هوش مصنوعی و ادعای اینکه این کار به زبان فارسی در روند پیشرفت هوش مصنوعی یا به حضور زبان فارسی در این فناوری کمک می‌کند، تنها در صورتی درست می‌بود که به شکل دقیقی نمونه‌های اولیه برگرفته از هوش مصنوعی با نمونه‌های نهایی شده، عرضه می شدند و به عبارت دیگر این ترجمه‌ها درون پروژه ای قرار می‌گرفتند که بر فرایند ترجمه کار کرده باشد و هدفش نشان دادن خطا‌ها و پیشنهاد راه‌حل‌های زبان‌شناختی برای کاربرد بهتر اپلیکیشن‌های هوش‌مصنوعی باشد.  

حتی این کار هم چندان ارزشمندی نمی‌بود. زیرا  اپلیکیشن‌های بزرگ هوش مصنوعی مثل کلود، چت جی پی تی و گوگل (جیمینی)، خود این کار را از طریق  میلیاردها تعامل روزانه که کاربران با  نمونه‌های رایگان آن‌ها به همه زبان‌ها از جمله فارسی، می‌کنند انجام می‌دهند و این به کاربران هم اعلام می‌شود. اصولا یکی از دلایل وجود این نمونه‌های رایگان همین است که این مدل‌ها را ارتقا بدهند. بنابراین نیاز به چنین کاری نیست.  

در بازار آشفته و حقوق لگدمال شده مترجمان و نویسندگان و اهل قلم در ایران من به هیچ وجه با این قبیل کارها که حاصل فکر و زندگی سخت آن‌‌ها را از طریق اپلیکیشن‌ها می‌گیرد بدون آنکه حقی برای آن‌‌ها قایل شود، مخالفم. به خصوص وقتی که همان طور که گفتم یک ناشر خوشنام و معتبر این کار را بکند که الگوی بدی خواهد شد وگرنه ناشران بی‌اعتبار که فکر می‌کنم روزانه صدها کتاب را به این روش یا با نام‌های قلابی دارند منتشرمی‌کنند. همان‌طور که از سال‌ها پیش همین دسته از ناشران ترجمه‌های معتبر را می‌گرفتند و به کسانی می‌دادند که اندکی آن‌ها را دستکاری کنند و سپس با نام‌های غیر‌واقعی و یا بدتر با نام یک مترجم غیر‌معتبر منتشر می‌کردند. همین امروز اگر سری به دستفروش‌ها یا حتی برخی از کتابفروشی‌ها بزنید، می‌بینید که چطور از برخی از آثار مهم ادبی و پر‌فروش جهان، تعداد زیادی ترجمه وجود دارد که نام مترجمانش به هیچ‌رو شناخته شده نیست و گاه اصولا چنان شخصی وجود خارجی ندارد. 

*در تحلیل‌هایتان از انقلاب اطلاعاتی و شهر هوش مصنوعی، به خطر فاصله گرفتن از روابط حسی مستقیم، از میان رفتن عواطف و احتمال بردگی انسان در برابر ماشین اشاره کرده‌اید. ترجمه ماشینی متون فکری و سپس عرضه آن به‌عنوان محصول فرهنگی، چگونه می‌تواند در همین مسیر تضعیف تجربه انسانی از زبان و معنا قرار گیرد یا برعکس، فرصتی برای بازاندیشی انتقادی فراهم آورد؟

اینجا ما با خطر از دست رفتن یا تضعیف شدید نه فقط ساختارهای بازار بلکه فروپاشی ساختارهای فکری و خلاقیت انسانی نیز رو در رو هستیم.  بنا بر نظر اندیشمدان و دانشمندانی  چون جفری هینتون (Geoffrey Hinton) که خود از نخستین ابداع‌کنندگان هوش مصنوعی هستند، این فناوری در یک چشم‌انداز چند ده ساله و شاید زودتر ممکن است تقریبا تمام مشاغل انسانی را  به ماشین‌ها واگذار ‌کند و با وارد شدن هوش مصنوعی برتر یا تعمیم‌یافته، دیگر به هیچ‌رو انسان‌ها نخواهند توانست حتی به صورت جمعی با هوش مصنوعی رقابت کنند و این خطر وجود دارد که کنترل روند این فناوری از دست انسان‌ها خارج شود. سناریوهایی که مطرح می‌شوند اغلب دیستوپیایی هستند: نابودی جهان و طبیعت و انسان‌ها به دست هوش مصنوعی چیزی شبیه آنچه پنجاه سال پیش استنلی کوبریک در فیلم  جذابش 2001، یک ادیسه فضایی (1968) ارائه داده بود. 

اما مسئله این نیست که این دانشمندان نمی‌دانند به سمت چه نقطه خطرناکی پیش می‌روند، بلکه همه ناچارند در مسابقه ساخت هوش‌های پیشرفته با موسسات و مراکز فناورانه بزرگ یکدیگر رقابت کنند، زیرا فشار بازار و قدرت‌های سیاسی و اقتصادی را بر خود می‌بیینند. 

به عبارت دیگر، قدرت‌های سیاسی و اقتصادی نمی‌توانند جلوی حرکت را بگیرند چون احساس می‌کنند عقب خواهند افتاد و رقبای آن‌ها هوش‌هایی خواهند ساخت که آن‌ها را تهدید کنند.  

اینجاست که دخالت دموکراتیک اراده عمومی و جلوگیری از این روند، مطرح می‌شود. برخی این را با جلوگیری و کنار گذاشته شدن‌، دست‌کم در فناوری‌های غیر‌جنگی، کولوناژ (شبیه‌سازی اندام‌ها و موجودات انسانی) مقایسه می‌کنند یا با ممنوعیت سلاح‌های میکروبی و ژنتیک و غیره (هرچند قدرت‌های بزرگ به صورت محرمانه به این کار ادامه می‌دهند که نمونه‌اش احتمالا در کرونا مشاهده شده است). 

بنابراین نمی‌توان آسیب‌هایی که در عرصه فرهنگ وارد می‌شود را از سایر بخش‌های جامعه جدا کرد. اگر در تولید مادی ما با جوامعی روبرو شویم که در آن‌‌ها مهندسان و پزشکان و کارگران و پرستاران و حسابداران و مدیران هر‌چه بیشتری بیکار شده و جای خود را به ماشین‌ها بدهند و یا به گسترش فقر، ناآرامی و خشونت اجتماعی، بیماری و افسردگی بکشد، در زمینه فکری هم می‌توانیم به موقعیت هایی از افول و فروپاشی شدید شعور و عقلانیت و قابلیت‌های خلاقیت هنری و ادبی برسیم. 

روشن است که نمایندگان قدرت‌های سیاسی و مالی‌، افرادی همچون ایلان ماسک از راست افراطی‌، یک ادعای احمقانه دروغین و پوپولیستی را مطرح می کنند: اینکه هوش مصنوعی در آینده‌ای بسیار نزذیک مثلا ده یا بیست‌ساله این امکان را فراهم می‌کند که همه کسانی که بیکار شده‌اند از گستره بزرگ تولیدات کارخانه‌هایی که قیمت محصولات را کاهش داده‌اند بهره ببرند و آدم‌ها آن‌قدر وقت خواهند داشت و آنقدر عمر خواهند کرد (صحبت از افزایش سن تا 150 سال و در همان حال، از میان بردن همه بیماری‌ها و مرگ و قابلیت جوان کردن انسان‌ها است) که می‌توانند  فقط تفریح کنند و از فراوانی سرشار زندگی استفاده کنند. در مضحک بودن این‌گونه ادعاهای بچه‌گانه همین بس که امروز در جهانی به سر می‌بریم که همه جایش در تنش و جنگ، فقر و بی‌رحمی، ویرانی و خشونت است. همین امروز، پربرکت‌ترین خاک‌ها و سرزمین‌های جهان در آفریقا است، همان جایی که بزرگترین  مصیبت‌های انسانی جهان را نیز شاهدیم؛ اما دستکاری ذهنی آدم‌ها به گونه‌ای است که همین آدم‌های مفلوک را به جان هم می‌اندازند و آن‌ها از یکدیگر می‌ترسانند، به سیاست‌های نفرت و خشونت دامن می‌زنند تا خود بتوانند منافع خویش را حفظ کنند. 

در یک کلام، اگر هوش مصنوعی بدون هیچ کنترلی تنها با دستورها و هدایت ثروت و قدرت پیش برود، با جهانی از آدم‌های بی‌شعور و بی‌احساس و بی‌خرد و نوکر‌صفت و ناتوان از هرگونه قابلیت زیبایی‌شناختی و شاعرانگی و هنر و شناخت روبرو خواهیم بود که فقط سرهایشان در تلفن‌های همراهشان یا بر کف دست‌ها یا مچ‌هایشان که به صفحه مانیتور همراه تبدیل شده‌ و در خلسه تماشای تصاویری گیج‌کننده و هر‌چه کوتاه‌تر نظیر «تیک تاک» و محصولات ارزان‌قیمت تولید شده برای شبکه. سناریویی که برخی می‌گویند همین امروز هم از جمله در چین اتفاق افتاده است.  

*شما پیش‌تر گفته‌اید که هوش مصنوعی تا زمانی مناسب عمل می‌کند که در چارچوب اراده انسانی و سیستم‌های سیاسی-اجتماعی دموکراتیک و مبادله‌پذیر باقی بماند. در شرایطی که کنترل اصلی مدل‌های زبانی بزرگ در دست شرکت‌های عظیم فناوری با ارزش‌های چندتریلیون دلاری است، ورود ناشران ایرانی به این حوزه تا چه اندازه می‌تواند واقعاً «اراده انسانی» را حفظ کند و تا چه حد خطر وابستگی ساختاری به منطق سرمایه و الگوریتم‌های غیربومی را افزایش می‌دهد؟

به نظرم کاری بسیار نادرست و دامن زدن به شرایطی است که خود به خود آسیب‌زده است. از این رو امیدوارم که این گونه رفتارها به خصوص از جانب ناشران معتبر با سکوت کنشگران این حوزه به فراموشی سپرده نشده و عادی‌سازی نشود. 

اینجا ما در حال بازی کردن با آینده فرهنگ و هنر هستیم. البته من اعتماد زیادی به قابلیت‌های حیاتی نظام‌های زیستی دارم و گفتم که در کشورهای دیگر نیز این کارها شروع، اما پس از مدتی کوتاه با شکست روبرو شدند. به نظرم ما هم نیاز داریم که در عمل شاهد این کارها باشیم.  

پیش‌بینی من آن است که ممکن است در نخستین اقدامات استقبال هم بشود، اما با مرور زمان یک نظام حسی و زیستی نمی‌پذیرد که به ماشین بیشتر از اندیشه انسانی اعتبار بدهد مگر آنکه آن اندیشه انسانی بدون ماشین هم تخریب و بی‌اعتبار شده باشد یا قابلیت‌های دموکراتیک و آزادی لازم را از دست داده باشد. 

در جامعه‌ای که اکثریت آدم‌ها ارزشی برای هنر و ادبیات و زیبایی و خلاقیت قائل نباشد، روشن است که کسی برایش تفاوتی ندارد ترجمه‌ها و نوشته‌ها، نقاشی‌ها و موسیقی‌ها انسانی بوده یا به وسیله هوش مصنوعی تولید شده باشند. اما تناقض کار هم در همین است: در چنین جامعه‌ای دیگر ما با انسان‌هایی هنرمند و باسلیقه و نازک‌اندیش روبرو نیستیم، بلکه با آدم‌هایی سروکار داریم که تنها به دنبال پول و قدرت و شهرت هستند که اولا ارزشی برای هنر و شعر و داستان و اندیشه قایل نیستند مگر اینکه برایشان ارزش تجملی و تزئینی داشته باشد. اینکه تا همین امروز تا چه حد در جهان یا در کشور خودمان به این آینده نزدیک شده‌ایم تعیین می‌کند که چگونگی و گستره استفاده از هوش مصنوعی تا کجا پیش برود. 

*در مقایسه‌های تاریخی‌تان با ورود فناوری‌هایی چون اینترنت و وب، به مقاومت اولیه دانشگاهیان و سپس پذیرش تدریجی اشاره کرده‌اید. آیا تجربه کنونی ترجمه با هوش مصنوعی را ادامه همان روند می‌دانید، یا تفاوت کیفی مهمی در آن می‌بینید که نیازمند موضع‌گیری انتقادی متفاوتی از سوی انسان‌شناسان و کنشگران فرهنگی است؟

بله، همواره درمورد همه فناوری‌‌ها این مقاومت اولیه و سپس پذیرش وجود داشته و در نهایت هم هر‌چند زندگی انسان‌ها بسیار تغییر کرده، جنبه‌های مثبت فناوری‌ها بهتر توانسته جا بیفتد بدون اینکه با یک منطق انسجام‌یافته روبرو باشیم که  خطر فناوری‌ها را  از بین برده باشد. 

در هوش مصنوعی به دلیل قابلیت «عاملیت» ماشین، تفاوت و تازگی وجود دارد و این امری کاملا متفاوت با فناوری‌های پیشین و تعیین‌کننده است. بنابراین خطر بزرگی به صورت بالقوه در آن هست، ‌آن‌جاست که وجود کنشگران انسانی منفی (سرمایه و قدرت) می‌تواند عوامل منفی بالقوه را به بالفعل تبدیل کند و جریان‌ها را به گونه‌ای پیش برد که پدید آمدن یک جامعه روی مدلی که آلدوس هاکسلی در کتاب «دنیای قشنگ نو» (1932) مطرح می‌کند  پیش برود. البته این بُعد خوش‌بینانه‌ای است که در برابرش جامعه‌ای دیستوپیایی نظیر جهان جرج  اورول در «1984» (1948) مطرح می‌شود. 

به هر‌حال جهان آینده چه مرکب از ابلهانی باشد که تنها با سیر شدن شکمشان و فراهم آمدن نیازهای حیوانی‌شان با حداقل‌ها از زندگی خرسند باشند و چه بردگانی که در زجر و شکنجه زندگی کنند و هر روز ناچار باشند تازیانه قدرت و سرمایه را بر دوش خود تحمل کنند، در هر صورت جهانی خالی از شناخت، آزادی، لذت زیستی و شاعرانه و خلاقیت و ظرافت‌های حسی و زیبایی‌شناختی خواهد بود؛ اما اینکه لزوما انتخاب بین یکی از این مدل‌ها باشد، ابدا درست نیست، آینده همواره با اراده کسانی تعیین می‌شود که زندگی خود را در دست بگیرند و تسلیم  شرایط موجود نشوند. من باورعمیقی به قدرت زیستی و موجودات و طبیعت دارم و در نتیجه برغم همه نومیدی‌ها معتقدم باید امید خود را نگه داشت زیرا تنها روح حقیقی زندگی است.  

*در نهایت، با توجه به تاکید مکررتان بر اینکه علوم انسانی باید اراده انسانی را اصل قرار دهد و فناوری را صرفاً به‌مثابه ابزار در خدمت آن ببیند، چه چارچوب هنجاری یا اصول راهنمایی را برای استفاده مسئولانه از هوش مصنوعی در حوزه ترجمه و تولید دانش فرهنگی پیشنهاد می‌کنید؟ نقش روشنفکران و نهادهای دانشگاهی در این میان چیست؟

به نظر من باید هرچه بیشتر عاملیت انسانی به وسیله کنشگران مدنی اعم از دانشگاهیان، هنرمندان، روشنفکران‌، دانشجویان و مردم عادی که مصرف‌کنندگان فکر و اندیشه هستند را افزایش داد و سازماندهی کرد. به صورتی که  بتوان عاملیت قدرت‌هایی را که صرفا  با انتقال و دریافت کردن اراده‌ای جمعی خود را بر آن‌‌ها تحمیل می‌کنند، کاهش داد و کنترل کرد. 

رمز و رازی در کار نیست، هر اندازه آزادی‌های دموکراتیک، کنترل مردمی بر سیاست و سرمایه بیشتر باشد، وضعیت بهتری خواهیم داشت. تجربه ده‌ها قرن نشان می‌دهد که قدرت‌های سیاسی و اقتصادی بدون نظارت و اصلاح شدن برای خیر جمعی به انحراف کشیده می‌شوند. تجربه تونالیتاریسم های چپ و راست، کمونیسم و فاشیسم در تاریخ دویست سیصد سال گذشته از استعمار جهان تا فاشیسم و کمونیسم دولتی بارها و بارها این را نشان داده‌ است.  

مشکل در خود فناوری هوش مصنوعی نیست، بلکه در آن است که این فناوری قدرت تعاملی  و ویرانگر سرمایه و قدرت‌های سودجو را به نهایتی می‌رساند که ممکن است نه تنها خود آن‌ها، بلکه کل جهان انسانی و طبیعی را تخریب کنند؛ نشانه‌های این تخریب را از هم اکنون در همه جای جهان و همه گوشه و کنار‌های زندگی روزمره‌مان مشاهده می‌کنیم.

منابع اشاره شده در گفتگو با ناصر فکوهی:

1-de Waal, Frans B. M. , 2001, The Ape and the Sushi Master: Cultural Reflections by a Primatologist. New York: Basic Books.

2-de Fontenay, Élisabeth, 1998, Le silence des bêtes : La philosophie à l’épreuve de l’animalité. Paris: Fayard.

3-www.youtube.com/watch?v=Oi78ubZtwYs

4-https://fararu.com/fa/news/977739/%DA%86%D8%B1%D8%A7-%D8%AF%D9%85%D9%88%DA%A9%D8%B1%D8%A7%D8%B3%DB%8C-%D8%A7%D8%B2-%D9%84%D9%88%D9%84%D9%87-%D8%AA%D9%81%D9%86%DA%AF-%D8%A8%DB%8C%D8%B1%D9%88%D9%86-%D9%86%D9%85%DB%8C-%D8%A2%DB%8C%D8%AF-%D9%86%D9%87-%D8%AC%D9%86%DA%AF-%D9%86%D9%87-%D8%A7%D9%86%D9%82%D9%84%D8%A7%D8%A8-%D8%A7%DB%8C%D8%B1%D8%A7%D9%86-%D8%B1%D8%A7-%D8%AF%D9%85%D9%88%DA%A9%D8%B1%D8%A7%D8%AA%DB%8C%DA%A9-%D9%86%D9%85%DB%8C-%DA%A9%D9%86%D9%86%D8%AF

5-https://newsroom.taylorandfrancisgroup.com/advanced-ai-for-book-translation/

6-https://dedalus.com.tr

همچنین نگاه کنید به این مقاله درباره تجربه ترکیه https://dergipark.org.tr/en/download/article-file/5118671?utm_source=chatgpt.com

7-https://www.aboutamazon.com/news/books-and-authors/amazon-kindle-translate-books-authors?ascsubtag=bw-2f7e1460-d15f%5B%5B%5B43c8b9%5B&utm_source=chatgpt.com

8- www.youtube.com/watch?v=FNZhxTtOL-I

9-https://www.theguardian.com/world/2026/mar/15/iranians-embrace-anthem-by-ai-singer-created-by-uk-based-iran-born-artist

10-Benjamin, W., 1935, The Work of Art in the Age of Mechanical Reproduction (Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit,1935)

11-McLoughlin, John. “The Work of Art in the Age of Artificial Intelligibility.” AI & Society, 40 (2025): 371–383.

12-Miao, Simeng. “Innovation of ‘Styles’ and New ‘Forgery’ in the Age of Artificial Intelligence: From the Perspective of Nelson Goodman’s Theory of Induction.” Theoretical Studies in Literature and Art, 42.4 (2022): 219–226.

13-Bianchi, Ivana, et al. “Creativity and Aesthetic Evaluation of AI-Generated Artworks: Bridging Problems and Methods from Psychology to AI.” Frontiers in Psychology 16 (2025).

14- نگاه کنید به گفتگوی ازرا کلاین با استاد هاروارد و روزنامه‌نگار معروف علمی مایکل پولان

www.youtube.com/watch?v=hYrgLn7pWp8 

 15-Barthes, Roland, 1967, La mort de l’auteur in  Manteia, no. 5, pp. 12–17