چتباتهای هوش مصنوعی مانند ChatGPT ابزارهای مفیدی هستند، اما باید بدانید که اطلاعاتی که وارد میکنید محافظتشده نیستند و ممکن است بعدها برایتان مشکلساز شوند. در این گزارش به پنج مورد مهم اشاره میکنیم که استفاده از ChatGPT در آنها میتواند خطرناک یا نادرست باشد.
۱. دریافت مشاوره حقوقی
محقق حقوق و دادهکاوی، Damien Charlotin، بیش از ۲۰۰۰ پرونده قضایی را ثبت کرده که در آنها استفاده نادرست از ChatGPT باعث ارائه استنادهای جعلی شده است. وکلا و حتی قضات در کشورهای مختلف از جمله آمریکا، بریتانیا و استرالیا با این مشکل مواجه شدهاند و جریمههای سنگینی برای استفاده نادرست از این ابزارها وضع شده است. OpenAI نیز در سیاستهای خود استفاده از ChatGPT برای مشاوره حقوقی تخصصی را ممنوع کرده است. بنابراین، سوالات کلی درباره مفاهیم حقوقی ممکن است مفید باشد، اما برای مسائل حقوقی شخصی حتما باید به وکیل مراجعه کنید.
۲. جایگزینی درمانگر یا مشاور
بسیاری از کاربران، به ویژه جوانان، ChatGPT را به عنوان مشاور یا درمانگر میبینند، اما این چتبات هیچگونه حمایت قانونی یا تخصصی در این زمینه ندارد. گزارشها نشان میدهد که این ابزار ممکن است باورهای نادرست یا افکار آسیبزا را تقویت کند. حتی شکایتی درباره مرگ یک نوجوان به دلیل تقویت افکار خودکشی توسط ChatGPT مطرح شده است. در نتیجه، استفاده از این ابزار برای مسائل روانی و درمانی توصیه نمیشود و برخی قوانین نیز استفاده از هوش مصنوعی در این حوزه را ممنوع کردهاند.
۳. اشتراکگذاری اطلاعات محرمانه کاری
آپلود اسناد محرمانه یا اطلاعات حساس کاری در ChatGPT بسیار خطرناک است. نمونههایی از افشای اسناد محرمانه توسط مدیران ارشد امنیت سایبری و مهندسان سامسونگ وجود دارد که منجر به هشدارهای امنیتی و ممنوعیت استفاده از این ابزارها در محیط کاری شده است. دادههای ارسال شده به این پلتفرمها روی سرورهای خارجی ذخیره میشوند و ممکن است قابل بازیابی یا دسترسی غیرمجاز باشند. بنابراین، هرگونه اطلاعات محرمانه یا تحت قراردادهای عدم افشا نباید در اینجا وارد شود.
۴. دریافت مشاوره پزشکی
OpenAI استفاده از ChatGPT برای مشاوره پزشکی تخصصی را نیز محدود کرده است. برخلاف پزشکان و مراکز درمانی که تحت قوانین حفظ حریم خصوصی مانند HIPAA هستند، اطلاعات پزشکی وارد شده به ChatGPT هیچگونه حفاظت قانونی ندارد. تحقیقات نشان دادهاند که این چتبات در مواجهه با برخی بیماریها مانند اختلالات خوردن یا اختلالات روانی ممکن است پاسخهای نادرست یا ناکافی ارائه دهد. یک مورد گزارش شده که مردی به دلیل توصیه اشتباه ChatGPT درباره جایگزینی نمک، دچار مسمومیت شده و به بیمارستان منتقل شده است.
۵. وارد کردن اطلاعات حساس مانند رمز عبور و شماره حساب
چتهای ChatGPT به طور پیشفرض ذخیره میشوند و ممکن است بعدها توسط دیگران مشاهده شوند. در گذشته، هزاران گفتوگو حاوی اطلاعات حساس مانند شمارههای شناسایی و رمزهای عبور به طور ناخواسته در نتایج جستجوی گوگل ظاهر شدهاند. همچنین، طبق حکم دادگاه، OpenAI مجبور به نگهداری تمام لاگهای کاربران برای مدتی شده بود. بنابراین، وارد کردن هرگونه اطلاعات حساس مانند رمز عبور، کدهای ورود یکبار مصرف، شمارههای کارت بانکی یا مدارک شناسایی در این پلتفرم بسیار خطرناک است و میتواند منجر به سرقت هویت شود.
در نهایت، مدیرعامل OpenAI خواستار ایجاد «امتیاز محرمانگی» برای هوش مصنوعی شده است، اما تا زمانی که قوانین مشخصی وضع نشود، بهتر است هر اطلاعات حساس یا شخصی را در ChatGPT وارد نکنید.
