ساعت یازده شب است و یک کارمند بخش فروش که از خستگی چشمهایش میسوزد، فایل قرارداد محرمانه یکی از مشتریان بزرگ شرکت را کپی میکند و درون پنجره یک چت بات هوش مصنوعی میاندازد تا در چند ثانیه خلاصهای تمیز از آن تحویل بگیرد. در گوشهای دیگر از شهر، مادری نگران علائم تب و بدندرد فرزندش را برای همین ابزار توضیح میدهد و منتظر نسخۀ درمانی میماند. میلیونها نفر هر روز دقیقاً همین کار را انجام میدهند؛ بدون اینکه لحظهای مکث کنند و بپرسند آیا چت با هوش مصنوعی خطرناک است و این جملههای ساده پس از فشردن دکمه ارسال، دقیقاً کجا میروند.
پاسخ کوتاه و بیتعارف متخصصان امنیت اطلاعات به این پرسش، نه یک «بلۀ» ترسناک است و نه یک «خیر» خیالپردازانه. خودِ فناوری گفتگو با ماشین ذاتاً دشمن کاربران نیست، اما شیوۀ استفاده ناآگاهانه از آن میتواند دروازهای برای لو رفتن اطلاعات حساس، تصمیمگیریهای غلط پزشکی یا مالی و حتی افتادن در دام کلاهبرداران سایبری باز کند. درک این مرز باریک، تفاوت میان یک کاربر هوشمند و یک قربانی غافل را رقم میزند.
چرا رابط کاربری ساده چتباتها حس امنیت کاذب ایجاد میکند؟
بخش بزرگی از مشکل از طراحی ظاهری این ابزارها شروع میشود. پنجرۀ گفتگو با مدلهای زبانی شباهت زیادی به پیامرسانهای رایج دارد؛ محیطی خلوت، لحنی مودبانه و پاسخی که در کسری از ثانیه ظاهر میشود. مغز انسان به صورت طبیعی وقتی با لحنی صمیمی و همدلانه روبهرو میشود، گارد دفاعی خود را پایین میآورد و تصور میکند طرف مقابل یک مشاور رازدار است.
واقعیت فنی پشت صحنه اما کاملاً متفاوت است. در پشت این پنجره ساده، سرورهای ابری عظیمی قرار دارند که هر کلمه را پردازش، ذخیره و تحلیل میکنند. برخلاف گفتگو در یک اتاق دربسته، چت با هوش مصنوعی در فضای عمومی اینترنت اتفاق میافتد و قوانین حریم خصوصی در هوش مصنوعی با قوانین رازداری پزشکی یا وکالت زمین تا آسمان فرق دارد.
اطلاعات محرمانه در چت با هوش مصنوعی به کجا میروند؟
بسیاری از کاربران نمیدانند که در نسخههای رایگان و عمومی چتباتها، متن گفتگوها میتواند به عنوان سوخت تازه برای آموزش نسخههای بعدی مدل استفاده شود. علاوه بر این، گروههایی از ناظران انسانی در شرکتهای توسعهدهنده، بخشی از گفتگوها را برای بهبود کیفیت پاسخها بازبینی میکنند. این یعنی متنی که به خیال محرمانه بودن تایپ شده، ممکن است هم در پایگاه داده بماند و هم توسط فرد دیگری خوانده شود.
ماجرای شرکتهایی که اسرارشان را به دست خودشان فاش کردند
این موضوع فقط یک فرضیۀ تئوری نیست. در سالهای اخیر، چند مورد مشهور در شرکتهای بزرگ فناوری رخ داد که زنگ خطر امنیت چت با هوش مصنوعی را برای کل دنیا به صدا درآورد. در یکی از این رخدادها، مهندسان یک شرکت بزرگ تولیدکننده لوازم الکترونیکی برای رفع خطای کدهای نرمافزاری خود، بخشهایی از کد منبع محرمانه و حتی متن جلسات داخلی شرکت را در یک چتبات عمومی وارد کردند. نتیجه این کار، ثبت دائمی اطلاعات تجاری حساس در سرورهای خارجی بود؛ اطلاعاتی که عملاً دیگر امکان پاک کردن کامل آنها وجود نداشت.
نمونۀ سادهتر و قابل لمستر این اتفاق در مقیاس کوچک هم مدام تکرار میشود. فرض کنید یک حسابدار برای تنظیم اظهارنامۀ مالیاتی، نام کامل افراد، کد ملی، شماره حساب و گردش مالی یک کسبوکار را وارد چتبات کند. اگر روزی حساب کاربری آن فرد هک شود یا سرورهای سرویسدهنده دچار نشت داده شوند، تمام این اطلاعات هویتی و مالی در اختیار مهاجمان قرار میگیرد.
توهم هوش مصنوعی؛ وقتی ماشین با اعتمادبهنفس کامل اطلاعات غلط میدهد
خطر دیگری که کمتر درباره آن صحبت میشود، ربطی به هکرها ندارد و از ذات خودِ این فناوری سرچشمه میگیرد. مدلهای زبانی بر پایه پیشبینی آماری کلمات کار میکنند، نه درک واقعی حقیقت. به همین دلیل، گاهی دچار پدیدهای میشوند که در دنیای فناوری به آن توهم هوش مصنوعی (AI Hallucination) میگویند؛ یعنی تولید اطلاعات کاملاً ساختگی با لحنی بسیار قاطع و علمی.
برای درک عمق این خطر، کافی است به دو مثال واقعی نگاه کرد:
در حوزۀ حقوقی و اداری: یک وکیل یا شهروند عادی برای نوشتن لایحۀ دفاعیه از یک چتبات کمک میگیرد و ربات به چند مادۀ قانونی و شماره پرونده استناد میکند. در ظاهر همهچیز بینقص است، اما با بررسی دقیق مشخص میشود که چنین پروندههایی اصلاً در تاریخ دادگستری وجود نداشتهاند و ماشین صرفاً جملاتی شبیه به متن حقوقی ساخته است.
در حوزه سلامت و دارو: فردی نام دو داروی خاص را میپرسد تا بداند مصرف همزمان آنها تداخلی دارد یا خیر. چتبات با لحنی آرامشبخش پاسخ میدهد که هیچ مشکلی وجود ندارد، در حالی که ترکیب آن دو دارو میتواند به کبد یا قلب آسیب جدی بزند.
اعتماد بیچونوچرا به چنین پاسخهایی، بدون بررسی منابع معتبر، میتواند هزینههای جانی و مالی سنگینی به بار آورد.
ردپای دیجیتال و تهدید حریم خصوصی در گفتگوهای شخصی
بسیاری از افراد از هوش مصنوعی به عنوان سنگ صبور یا مشاور روانشناسی استفاده میکنند و جزئیترین مسائل خانوادگی، مشکلات روحی، محل زندگی و عادتهای روزانه خود را در آن مینویسند. کنار هم قرار گرفتن این تکههای کوچک اطلاعات در طول چند ماه، تصویری دقیق و کامل از شخصیت، نقاط ضعف و زندگی خصوصی کاربر میسازد.
این پروفایل رفتاری دقیق، دقیقاً همان چیزی است که شرکتهای تبلیغاتی یا بدتر از آن، گروههای کلاهبردار به دنبالش هستند. وقتی تمام دغدغههای مالی یا عاطفی یک فرد در یک تاریخچه متنی جمع شده باشد، نفوذ به ایمیل یا حساب کاربری او به معنای لو رفتن خصوصیترین زوایای زندگیاش خواهد بود.
سوءاستفاده مجرمان سایبری و فریبهای هوشمندانه
بررسی پرسش «آیا چت با هوش مصنوعی خطرناک است» بدون نگاه به سمت تاریک امنیت سایبری کامل نمیشود. همان ابزارهایی که کار روزمره مردم را ساده کردهاند، در اختیار مهاجمان سایبری نیز قرار دارند. امروزه کلاهبرداران برای نوشتن پیامهای فیشینگ دیگر از جملات دستوپاشکسته و پر از غلط املایی استفاده نمیکنند؛ آنها با کمک مدلهای زبانی، ایمیلها و پیامکهایی کاملاً طبیعی، رسمی و متقاعدکننده میسازند که تشخیص جعلی بودن آنها حتی برای افراد باتجربه هم دشوار است.
از سوی دیگر، پدیده تولید لینکها و بستههای نرمافزاری جعلی نیز رواج یافته است. گاهی کاربر از چتبات راه حلی برای نصب یک برنامه یا رفع یک مشکل فنی میخواهد و ربات نام یک ابزار یا لینک دانلود را پیشنهاد میدهد. مهاجمان سایبری با شناسایی نامهایی که چتباتها به اشتباه تولید میکنند، بدافزارهایی با همان نام میسازند و در اینترنت قرار میدهند تا کاربران ناآگاه آنها را دانلود و روی سیستم خود نصب کنند.
چطور بدون به خطر انداختن امنیت، از هوش مصنوعی استفاده کنیم؟
آگاهی از خطرات هوش مصنوعی به معنای کنار گذاشتن این فناوری قدرتمند نیست. همانطور که وجود تصادفات رانندگی باعث نمیشود کسی سوار خودرو نشود، ریسکهای دیجیتال هم با رعایت چند اصل ساده و حرفهای قابل مهار هستند. متخصصان امنیت اطلاعات برای حفاظت از دادههای شخصی در زمان کار با چتباتها، رعایت این اصول را ضروری میدانند:
قانون طلایی اطلاعات محرمانه:
هیچگاه نام واقعی، کد ملی، شماره کارت بانکی، رمزهای عبور، آدرس دقیق محل سکونت، اسناد تجاری محرمانه و فایلهای پزشکی دارای هویت را وارد محیط چت نکنید. اگر نیاز به ویرایش یا خلاصهسازی یک متن کاری وجود دارد، ابتدا نام افراد، شرکتها و اعداد حساس را با کلمات جایگزین مانند «شرکت الف» یا «شخص ب» تغییر دهید.
تغییر تنظیمات حریم خصوصی:
تقریباً تمام چتباتهای معتبر در بخش تنظیمات خود گزینهای برای جلوگیری از استفاده گفتگوها در آموزش مدلهای آینده دارند (مانند خاموش کردن گزینه بهبود مدل برای همه یا استفاده از حالت گفتگوی موقت). فعال کردن این بخش اولین قدم برای بالا بردن امنیت چت با هوش مصنوعی است.
راستیآزمایی اطلاعات حیاتی:
هر پاسخی که در زمینه پزشکی، حقوقی، مالی یا برنامهنویسی دریافت میشود، باید به عنوان یک «پیشنویس اولیه» در نظر گرفته شود، نه حکم قطعی. بررسی منابع رسمی و مشورت با متخصص انسانی در موضوعات حساس هرگز نباید جایگزین شود.
جداسازی حسابهای کاری و شخصی:
برای استفاده از ابزارهای هوش مصنوعی، استفاده از یک ایمیل مجزا و رمز عبور قوی به همراه تایید هویت دومرحلهای باعث میشود در صورت بروز هرگونه رخنه امنیتی، دسترسی مستقیم به ایمیل اصلی و اطلاعات بانکی کاربر مسدود بماند.
در نهایت، پاسخ به اینکه آیا چت با هوش مصنوعی خطرناک است، بیش از آنکه به کدهای برنامهنویسی این ابزارها وابسته باشد، به رفتار خودِ کاربران گره خورده است. چتباتها دستیارانی فوقالعاده سریع و خلاق هستند، به شرطی که با آنها نه به عنوان یک دوست رازدار و دانای کل، بلکه به عنوان یک ابزار عمومی در فضای اینترنت رفتار شود.



