هم‌خانه‌ای باهوش که باید «خوب بودن» را یاد بگیرد

ساعت هفت صبح است. هنوز خواب از چشمتان نپریده که دستتان سراغ گوشی می‌رود. کتری روی گاز است و چای هنوز دم نکشیده، اما در همین چند دقیقه ده‌ها الگوریتم بی‌صدا دربارۀ شما تصمیم گرفته‌اند. آن‌ها انتخاب کرده‌اند اول کدام خبر را ببینید و کدام را هرگز نبینید. معلوم کرده‌اند کدام کفش یا کتاب جلوی چشمتان بیاید. شاید در جایی دیگر، سامانۀ یک بانک همین حالا پروندۀ وام شما را بررسی کرده و حکمش را داده باشد.

هوش مصنوعی دیگر قهرمان فیلم‌های علمی‌تخیلی یا «فناوری آینده» نیست. بی‌آنکه در بزند به خانه‌مان آمده، کنار سفرۀ صبحانه نشسته و در کوچک‌ترین انتخاب‌هایمان دخالت می‌کند. اگر قرار است با این هم‌خانۀ باهوش زندگی کنیم، باید از خودمان پرسشی ساده اما سرنوشت‌ساز بپرسیم: او اخلاق را از کجا و از چه کسی یاد می‌گیرد؟

 اخلاق بی‌روح کافی نیست

در چند سال اخیر، بحث «اخلاق هوش مصنوعی» از کلاس‌های فلسفه به جلسه‌های هیئت‌مدیره و صحن پارلمان‌ها رسیده است. فیلسوفانی مانند لوچانو فلوریدی، نظریه‌پرداز برجستۀ اخلاق اطلاعات، پنج اصل پیشنهاد کرده‌اند: سودرسانی، آسیب‌نرساندن، احترام به خودمختاری انسان، عدالت و شفافیت. یونسکو هم با انتشار توصیه‌نامه‌ای جهانی کوشید نقشۀ راهی مشترک برای کشورها بکشد.

این تلاش‌ها کم نیستند و باید قدرشان را دانست. اما با نگاهی دقیق‌تر می‌بینیم که زبان بیشتر این چارچوب‌ها فنی و حقوقی است. از ضوابط، استانداردها و سازوکارهای پاسخ‌گویی می‌گویند، ولی از وجدان، معنویت و حساسیت‌های فرهنگی کمتر نشانی در آن‌ها هست. به زبان ساده، به ماشین یاد می‌دهند «قانون را زیر پا نگذار»، اما کسی به او نمی‌گوید «خوب باش».

فرق این دو جمله مثل فرق کارمندی است که فقط ساعت کاری‌اش را پر می‌کند با کارمندی که دلش برای ارباب‌رجوع می‌سوزد. هر دو قانونی رفتار می‌کنند، اما فقط یکی‌شان اعتماد می‌سازد.

ماجرا وقتی جدی‌تر می‌شود که پای امور مقدس به میان می‌آید. امروز کم نیستند کسانی که برای فهم یک آیه، به‌جای سراغ تفسیر و اهل علم رفتن، از ChatGPT می‌پرسند. اما این ابزارها بافت تاریخی، ظرافت‌های زبانی و ملاحظات شرعی آیات را درک نمی‌کنند و ممکن است با اطمینان کامل معنایی نادرست به کاربر بدهند. پس مسئله فقط حریم خصوصی و امنیت داده نیست. پای «حقیقت» هم در میان است.

 درست کار کردن کافی نیست؛ زیبا کار کن

قرآن برای پر کردن این خلأ واژه‌ای دارد: احسان. احسان یعنی کار را نه فقط درست، بلکه به بهترین و زیباترین شکل انجام دهی و بدانی خدا ناظر توست، حتی وقتی هیچ چشم دیگری تو را نمی‌بیند.

نکتۀ شگفت‌انگیز این است که قرآن احسان را در پرتنش‌ترین صحنه‌های زندگی مطرح می‌کند، نه در فضایی آرام و دوستانه. در بحث قصاص، جایی که پای خون و انتقام در میان است، می‌فرماید: «وَأَدَاءٌ إِلَیْهِ بِإِحْسَانٍ» (بقره/۱۷۸)؛ یعنی حتی پرداخت دیه هم باید با نیکی همراه باشد. در بحث طلاق، جایی که پیوندی گسسته می‌شود و دل‌ها شکسته‌اند، می‌گوید: «أَوْ تَسْرِیحٌ بِإِحْسَانٍ» (بقره/۲۲۹). این یعنی حتی وقتی قانون حرف آخر را می‌زند، انسانیت نباید غایب باشد.

حالا همین منطق را به دنیای الگوریتم‌ها ببرید. سامانه‌ای را در نظر بگیرید که درخواست وام یک کارگر را رد می‌کند. یا نرم‌افزاری که در اورژانسی شلوغ بیماران را اولویت‌بندی می‌کند. یا رباتی که از میان هزار رزومه، نهصدتا را در چند ثانیه کنار می‌گذارد. آیا کافی است این سامانه‌ها فقط «کارآمد» باشند، یا باید منصف، همدل و پاسخ‌گو هم باشند؟ آیا متقاضی ردشده حق ندارد دلیلش را بداند؟ آیا بیماری که الگوریتم او را ته صف گذاشته فقط یک عدد است؟

اینجاست که تفاوت دو نگاه آشکار می‌شود. اخلاق رایج غربی بیشتر بر محور عدالت می‌چرخد: حق هر کس را به او بده و به کسی آسیب نزن. اما قرآن احسان را یک پله بالاتر از عدالت صرف می‌نشاند. نتیجه اخلاقی پیش‌دستانه است که به پرهیز از آسیب قانع نمی‌شود و فعالانه دنبال بیشترین خیر می‌گردد. مهندسی که با این نگاه کد می‌نویسد، فقط نمی‌پرسد «آیا این سیستم به کسی آسیب می‌زند؟». او می‌پرسد «این سیستم چطور می‌تواند زندگی مردم را بهتر کند؟»

سورۀ الرحمن این چرخه را در یک جمله خلاصه کرده است: «هَلْ جَزَاءُ الْإِحْسَانِ إِلَّا الْإِحْسَانُ» (الرحمن/۶۰)؛ آیا پاداش نیکی جز نیکی است؟ فناوری‌ای که با احسان ساخته شود، اعتماد می‌کارد و خیر درو می‌کند. جامعه‌ای هم که به ابزارهایش اعتماد دارد، با کمک آن‌ها آینده‌ای بهتر می‌سازد.

 داده‌های شما امانتی در دست دیگران است

اگر احسان روح این چارچوب باشد، امانت ستون فقرات آن است.

آیۀ ۷۲ سورۀ احزاب یکی از حماسی‌ترین صحنه‌های قرآن را روایت می‌کند. امانت بر آسمان‌ها، زمین و کوه‌ها عرضه شد. آن غول‌های عظیم از سنگینی‌اش هراسیدند و از پذیرفتنش سر باز زدند، اما انسان پیش آمد و آن را بر دوش گرفت. قرطبی، مفسر نامدار، این امانت را شامل عقل، اختیار و توان آفرینش می‌داند. برای «توان آفرینش» انسان، چه نمونه‌ای امروزی‌تر از هوش مصنوعی سراغ داریم؟ ماشینی که می‌نویسد، نقاشی می‌کشد، بیماری را تشخیص می‌دهد و تصمیم می‌گیرد، محصول همان امانتی است که کوه‌ها از آن گریختند.

قرآن تکلیف این امانت را هم روشن کرده است: «إِنَّ اللَّهَ یَأْمُرُکُمْ أَنْ تُؤَدُّوا الْأَمَانَاتِ إِلَیٰ أَهْلِهَا» (نساء/۵۸). معنای امروزی این فرمان این است که داده‌ها باید شفاف مدیریت شوند و تصمیم‌های الگوریتمی به دست کسانی سپرده شوند که شایسته و پاسخ‌گو هستند.

هشدار تند آیۀ ۲۷ سورۀ انفال هم در عصر دیجیتال معنای تازه‌ای پیدا می‌کند: «لَا تَخُونُوا اللَّهَ وَالرَّسُولَ وَتَخُونُوا أَمَانَاتِکُمْ». گاهی شرکتی داده‌های شخصی کاربرانش را بدون رضایت آن‌ها می‌فروشد. گاهی اطلاعات را دست‌کاری می‌کنند تا افکار عمومی را به سمتی خاص ببرند. گاهی هم کاربران در برابر سوءاستفاده بی‌دفاع رها می‌شوند. در همۀ این موارد با چیزی بیش از یک تخلف حقوقی روبه‌روییم. این‌ها مصداق «خیانت در امانت» است.

تفاوت اصلی دقیقاً همین‌جاست. در رویکرد سکولار، مسئولیت تا مرز قانون و آیین‌نامه‌های حرفه‌ای پیش می‌رود و جایی که بازرسی در کار نباشد، وسوسۀ میان‌بُر زدن هم بیشتر می‌شود. اما در نگاه قرآنی، امانت پیمانی مقدس میان انسان و خداست و روزی دربارۀ آن از ما پرسیده خواهد شد. برنامه‌نویسی که به این حقیقت باور دارد، ساعت دو بامداد در دفتری خالی و بدون دوربین، به همان اندازه از داده‌های مردم محافظت می‌کند که در روز بازرسی.

 فناوری وسیله است، نه مقصد

در میان هیاهوی نوآوری‌ها گاهی فراموش می‌کنیم که هوش مصنوعی وسیله است، نه هدف. سید حسین نصر، اندیشمند برجستۀ معاصر، جدا کردن فناوری از معنویت را یکی از ریشه‌های بحران انسان مدرن می‌داند. ابزاری که معنا نداشته باشد، دیر یا زود سازنده‌اش را به خدمت می‌گیرد. فناوری باید در خدمت خیر عمومی باشد، نه ماشینی که فقط برای شرکت‌های بزرگ سود جمع می‌کند.

 صداقت علمی: هنوز راه درازی در پیش است

انصاف علمی حکم می‌کند بپذیریم که احسان و امانت، با همۀ استحکامشان، به‌تنهایی برای ساختن چارچوبی جامع در اخلاق هوش مصنوعی کافی نیستند. باید سراغ مفاهیم قرآنی دیگر هم رفت. عدل ترازوی تصمیم‌هاست و رحمت آن‌ها را نرم و انسانی می‌کند. حکمت جای درست هر چیز را نشان می‌دهد و تقوا وقتی ناظر بیرونی نیست، ناظری درونی می‌سازد. این چارچوب بعد باید از کتاب‌ها بیرون بیاید و در مطالعات موردی و نمونه‌های واقعی محک بخورد.

 امانتی که کوه‌ها از آن هراسیدند

اخلاق هوش مصنوعی فقط دغدغۀ مهندسان سیلیکون‌ولی یا قانون‌گذاران بروکسل نیست. این پرسش به مؤمنان، پژوهشگران حوزه و دانشگاه، رسانه‌ها و هر کسی که فردا صبح گوشی‌اش را باز می‌کند هم مربوط است.

همان امانتی که آسمان‌ها و زمین و کوه‌ها از پذیرفتنش هراسیدند، امروز به شکل میلیاردها داده و تصمیم الگوریتمی بر دوش ماست. هوش مصنوعی از خانۀ ما نمی‌رود و ماندنی است. پرسش این است که آیا به او یاد می‌دهیم فقط باهوش نباشد و «خوب» هم باشد؟