فرمان دست کیست: انسان یا ماشین؟/ از هوش مصنوعی تا خطای پزشکی

صدای محبوبش دوباره بلند می‌شود: «به پلیس نزدیک می‌شوید!» راست می‌گوید. کمی جلوتر، پلیس منتظرمان ایستاده و با اشاره دست می‌گوید بزن کنار.

راننده، متعجب و متوقف می‌شود. پلیس از او مدارک می‌خواهد و مشغول نوشتن جریمه می‌شود. او آسمان و ریسمان می‌بافد و ملتمسانه می‌گوید: «این گفت دور بزن!» منظورش مسیریاب است. و ادامه می‌دهد: «این هم شاهد است!» منظورش منم! پلیس نیم‌نگاهی به من می‌اندازد. حرفش را با سر تایید می‌کنم. شانه بالا می‌اندازد و جریمه را می‌نویسد.

برای آدمی که رگ‌وریشه روزنامه‌نگاری دارد، از آسمان سوژه می‌بارد. جلوی چشمانم هوش مصنوعی خطا می‌کند و راننده تاوان می‌دهد. اگر مثال را بزرگ‌تر کنیم، چه؟ مثلا اگر یک ماشین خودران، عابری را زیر بگیرد؛ مالکش مقصر است یا طراحان و تولیدکنندگانش؟ و اگر همین مثال را به حوزه بهداشت و درمان تعمیم دهیم، چطور؟

فرداروزی را- که اصلا دور نیست- تصور کنید که هر پزشک یک دستیار تشخیصی هوشمند دارد. خودتان را جای پزشک بگذارید و فرض کنید با بیمار دشواری روبرو شده‌اید که در تشخیص بیماری‌اش شک دارید. شک شما بیشتر به نفع تشخیص «الف» و درمان «ب» است اما دستیار هوشمندتان تشخیص «ج» و درمان «د» را پیشنهاد می‌کند. شما کدام درمان را انتخاب می‌کنید؟ ساده‌ترین جواب این است که بگویید درمان «ب» را ترجیح می‌دهم چون بالاخره آن ماشین هوشمند قرار است دستیار من باشد، نه اینکه من دستیار او باشم. اما قضیه به این سادگی نیست.

کات. فلاش‌بک به سال ۱۹۹۷. گری کاسپاروف، نابغه شطرنج جهان، از دیپ‌بلو شکست می‌خورد. دیپ‌بلو، سوپرکامپیوتر آی‌بی‌ام است که بر مبنای هوش مصنوعی طراحی شده تا شطرنج بازی کند. طراحان دیپ‌بلو بعد از باخت بهت‌آور کاسپاروف افشا می‌کنند که این ماشین در هر ثانیه ۲۰۰میلیون حرکت را پردازش می‌کند و ۵۰میلیارد پاسخ احتمالی حریف را در هر ۳ دقیقه حدس می‌زند و در نهایت، بهترین حرکت را انتخاب می‌کند. هوش کدام انسان می‌تواند با این هوش مصنوعی شطرنج بازی کند؟

در روزگاری که سالانه میلیون‌ها مقاله در هر حوزه تخصصی منتشر می‌شود، کدام پزشک می‌تواند ادعا کند که تمام مقالات روزآمد رشته‌ تخصصی‌اش را خوانده و موبه‌مو با متن کتاب‌های مرجع تطبیق داده تا بتواند روی هر تشخیص و درمان خودش قسم بخورد؟ جوابش روشن است. اما ماشین هوشمند با چنین ادعایی مشکل ندارد. بنابراین بعید نیست که وقتی خودتان می‌گویید «الف» و «ب» و ماشین هوشمندتان می‌گوید «ج» و «د»، مردد بشوید و به «ج» و «د» میل کنید.

حالا صورت سوال را سخت‌تر کنیم. اگر تشخیص «ج» و درمان «د» غلط از آب درآمد و به مرگ بیمار منجر شد، مسوولیت کدامیک سنگین‌تر است: پزشک یا طراحان و تولیدکنندگان آن ماشین هوشمند؟ آیا هوش مصنوعی، سهم خودش را در این خطا می‌پذیرد؟ بعید می‌دانم! تکنولوژی اهل مسوولیت‌پذیری و شفافیت نیست. شاهدش همین موبایل. در روزگاری که با هر دارو یک بروشور بلندبالا از موارد احتیاط و عوارض دارو منتشر می‌شود، کدام گوشی موبایل در دفترچه راهنمایش می‌نویسد که بعضی محققان از سرطانزا بودن موبایل گفته‌اند؟ سرطان که سهل است، کدامشان می‌نویسند که همین نور آبی موبایل می‌تواند خوابمان را مختل کند؟

صدای محبوب، رشته افکارم را پاره می‌کند: «به مقصد رسیده‌اید!»

*عضو هیئت علمی مرکز ملی تحقیقات راهبردی آموزش پزشکی

*عضو گروه فلسفه، اخلاق پزشکی و اخلاق زیستی فرهنگستان علوم پزشکی