کدنویسی با هوش مصنوعی یا همان «vibe coding» از سال گذشته در دنیای فناوری محبوب شده است. این روش که به کمک هوش مصنوعی و بدون نیاز به درک کامل کدها انجام می‌شود، سرعت توسعه را افزایش می‌دهد اما می‌تواند خطرات امنیتی جدی به همراه داشته باشد. شرکت امنیت سایبری Apiiro پس از بررسی شرکت‌های بزرگ، متوجه شد که کدنویسی با هوش مصنوعی بهره‌وری مهندسان را چهار برابر می‌کند اما مشکلات امنیتی را تا ده برابر افزایش می‌دهد. بنابراین رعایت نکات امنیتی زیر ضروری است.

تصویر خبر

۱. درخواست‌های دقیق و استفاده از فایل مارک‌داون

<pهنگام کار با مدل‌های هوش مصنوعی، باید درخواست‌های خود را بسیار دقیق و واضح بیان کنید. هوش مصنوعی ممکن است برای سرعت عمل، نکات امنیتی را نادیده بگیرد یا کد را بدون بررسی کامل ارائه دهد. مشخص کنید که چه محدودیت‌هایی برای دسترسی به داده‌ها وجود دارد، چه استانداردهای امنیتی باید رعایت شود و از هوش مصنوعی بخواهید به فهرست آسیب‌پذیری‌های OWASP مراجعه کند. ایجاد یک فایل مارک‌داون (.md) حاوی دستورالعمل‌های امنیتی به مدل کمک می‌کند تا این نکات را در همه درخواست‌ها در نظر بگیرد. همچنین استفاده از ابزارهایی که امکان ثبت تغییرات (audit logs) را دارند، روند پیگیری تغییرات را آسان‌تر می‌کند.

۲. محافظت از کلیدهای API و رمزعبورها

<pهیچ‌گاه کلیدهای API و رمزعبورها را مستقیماً در درخواست‌های هوش مصنوعی وارد نکنید یا در کد قرار ندهید. این اطلاعات حساس نباید در کد نهایی یا مخازن عمومی مانند گیت‌هاب قابل مشاهده باشند. بهتر است این داده‌ها را در مدیر رمزعبور ذخیره کنید و از متغیرهای محیطی (environmental variables) یا بخش «اسرار» در پلتفرم‌هایی مانند Replit و Vercel استفاده کنید. اگر ابزار شما این قابلیت را ندارد، باید فایل‌های متغیر محیطی را به درستی مدیریت کرده و از انتشار آنها جلوگیری کنید. برای اطمینان از عدم افشای اطلاعات حساس، می‌توانید از ابزارهایی مانند TruffleHog بهره ببرید.

۳. حفاظت از داده‌های برنامه

اگر برنامه شما با داده‌های زیادی کار می‌کند و از زبان SQL استفاده می‌کند، باید از حملات تزریق SQL جلوگیری کنید. به هوش مصنوعی دستور دهید که کوئری‌ها را پارامتریزه کند، ورودی‌ها را پاک‌سازی کند، از اقدامات سرور برای عملیات حساس استفاده کند و سیاست‌های امنیتی سطح ردیف (RLS) را فعال نماید. همچنین بررسی کنید که هوش مصنوعی از کتابخانه‌های معتبر و به‌روز استفاده کند و از وارد کردن بسته‌های جعلی یا مخرب جلوگیری شود.

۴. محدودیت نرخ درخواست‌ها (Rate Limiting)

محدود کردن تعداد درخواست‌ها یکی از روش‌های موثر برای جلوگیری از حملات DDoS و حملات جستجوی رمز عبور است. بسته به نوع برنامه، می‌توانید محدودیت‌ها را بر اساس شناسه حساب کاربری و سپس آدرس IP اعمال کنید تا امکان دور زدن با VPN کاهش یابد. افزودن مراحل احراز هویت با ایمیل یا شماره تلفن و استفاده از CAPTCHA نیز به افزایش امنیت کمک می‌کند.

۵. بازبینی و تست کدهای تولید شده توسط هوش مصنوعی

اگر امکان بررسی کد توسط یک مهندس نرم‌افزار حرفه‌ای را ندارید، از هوش مصنوعی بخواهید کد خود را برای آسیب‌پذیری‌ها ارزیابی کند و آن را در برابر فهرست OWASP تست نماید. همچنین می‌توانید از مدل‌های هوش مصنوعی دیگر و ابزارهای تخصصی مانند Claude Code Security، Codex Security، Stackhawk’s Wingman، CheckVibe، SafeToShip و Vibe App Scanner برای شناسایی مشکلات استفاده کنید. پس از انتشار برنامه نیز باید به طور مداوم آن را برای یافتن و رفع باگ‌ها و آسیب‌پذیری‌ها پایش کنید.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون