توافق نامه اتحادیه اروپا برای محدودسازی هوش مصنوعی

اتحادیه اروپا به تازگی به یک توافق اولیه درباره نحوه عملکرد مدل های پیشرفته هوش مصنوعی همانند ChatGPT رسیده است. این توافق برای محدودسازی و کنترل بیشتر بر هوش مصنوعی های پیشرفته اعمال خواهد شد. حالا جزئیات جدیدی از این طرح منتشر شده است که بخشی از مفاد آن را آشکار می کند.

براساس گزارش بلومبرگ، سند اتحادیه اروپا بیان می کند که تمامی توسعه دهندگان سیستم های هوش مصنوعی همه منظوره، یعنی مدل های قدرتمندی که کاربردهای گسترده ای دارند، باید الزامات شفاف سازی اولیه را برآورده کنند، مگر اینکه مدل های هوش مصنوعی آن ها به صورت رایگان و متن باز ارائه شود.

برخی از بندهای کلی این سند از قرار زیر است:

•    داشتن خط مشی قابل قبول برای استفاده از هوش مصنوعی

•    به روز نگه داشتن اطلاعات دباره نحوه آموزش مدل های هوش مصنوعی

•    ارائه گزارش دقیق از داده های مورد استفاده برای آموزش این مدل ها

•    داشتن خط مشی مرتبط با قانون کپی رایت

توافق نامه اتحادیه اروپا برای محدودسازی هوش مصنوعی

قانون جدید اتحادیه اروپا به عنوان اولین قانون جامع جهانی برای هوش مصنوعی معرفی شده است. برای اولین بار اتحادیه اروپا در سال 2021 پیشنهاد ایجاد قانون هایی در حوزه هوش مصنوعی را داد. در سال های پس از آن، توسعه سریع هوش مصنوعی باعث تأخیر در برنامه های نظارتی اتحادیه اروپا شد.

براساس سند اتحادیه اروپا، مدل های هوش مصنوعی که ریسک سیستماتیک ایجاد می کنند، مشمول قوانین اضافی هم خواهند بود. اتحادیه اروپا این ریسک را براساس میزان توان محاسباتی مورد استفاده برای آموزش مدل ها تعیین می کند. این آستانه در مدل هایی تعیین می شود که بیش از 10 تریلیون تریلیون (سپتیلیون) عملیات در ثانیه انجام می دهند. به گفته کارشناسان، درحال حاضر تنها مدلی که به طور خودکار از این آستانه عبور می کند، مدل GPT-4 است.

همچنین اتحادیه اروپا معیارهای دیگری نیز برای اعمال این قوانین درنظر می گیرد. برای مثال، اگر مدل هوش مصنوعی حداقل 100 هزار کاربر ثبت شده در اتحادیه اروپا داشته باشد، مشمول این قوانین خواهد شد.

شرایط و قوانین دیگر اتحادیه اروپا برای توسعه دهندگان هوش مصنوعی به شرح زیر آمده است:

•    مصرف انرژی مدل های هوش مصنوعی گزارش شود.

•    خطرات احتمالی سیستمی ارزیابی و کاهش داده و هرگونه حادثه گزارش شود.

•    اطمینان حاصل شود که مدل های هوش مصنوعی از کنترل های امنیت سایبری کافی برخوردار باشند.

•    اطلاعات مورد استفاده برای تنظیم دقیق مدل و معماری سیستم آن ها گزارش شود.

•    در صورت توسعه استانداردهای کارآمدتر انرژی، با آن ها مطابقت شود.

البته این توافق نامه آزمایشی هنوز باید توسط پارلمان اروپا و 27 کشور عضو اتحادیه اروپا تصویب شود.