امنیت و GDPR
استفاده ایمن از هوش مصنوعی در مدرسه
AI-School برای استفاده مسئولانه از هوش مصنوعی در آموزش با موارد زیر طراحی شده است:
- امکان ورود به سیستم مدرسه
- راهنمایی و نظارت معلمان
- اقدامات فنی و سازمانی برای حفاظت از حریم خصوصی
- گزینه حسابهای ناشناس بدون دادههای شخصی
چگونه AI-School از رعایت GDPR پشتیبانی میکند
GDPR ایجاب میکند که مؤسسات آموزشی دادههای شخصی را با دقت پردازش کرده و حریم خصوصی دانشآموزان را محافظت کنند. AI-School این موارد را پشتیبانی میکند با:
- انعقاد قرارداد پردازش دادهها با مدارس که در آن پردازش دادههای شخصی ثبت میشود.
- استفاده از قرارداد مدل توافقنامه حفظ حریم خصوصی آموزش به عنوان پایه قرارداد پردازش دادهها.
- ارائه ناشناس درخواستها به مدلهای هوش مصنوعی از طریق یک حساب عمومی، بدون ارتباط با کاربر قابل شناسایی.
- اطلاعرسانی به مدارس، معلمان و دانشآموزان که نباید دادههای شخصی در درخواستها یا اسناد وارد شود.
- استفاده از برچسبهای رزرو شده و جایگزینی محلی در قالبهای سند، به طوری که دادههای شناخته شده مانند نام مدرسه، آدرس، نام حساب، ایمیل و نقش نیازی به ارسال به مدل زبان نداشته باشند.
- انعقاد قراردادهای پردازش داده یا الحاقات پردازش داده با تأمینکنندگان مدلهای هوش مصنوعی استفاده شده.
مدرسه به عنوان مسئول پردازش دادهها مسئول تنظیمات انتخاب شده، مجوزها، دورههای نگهداری و استفاده در سازمان خود باقی میماند.
چارچوب مفهومی برای پردازش دادهها
دادههای حساب و مدیریت دانشآموز: دادههایی مانند نام، ایمیل، نام کاربری و شماره دانشآموز که AI-School برای دسترسی، مدیریت و راهنمایی استفاده میکند. این دادهها به طور خودکار به مدل هوش مصنوعی اضافه نمیشوند.
محتوای درخواست: سوال یا دستوری که کاربر وارد میکند. مدل هوش مصنوعی انتخاب شده این محتوا را دریافت میکند تا پاسخ تولید کند. اگر کاربر دادههای شخصی را در درخواست وارد کند، ارائهدهنده مدل ممکن است آن دادهها را پردازش کند.
زمینه چت: سوالات و پاسخهای قبلی که برای ارائه پاسخ منسجم لازم است. زمینه چت مرتبط ممکن است همراه با درخواست جدید به مدل ارسال شود.
زمینه تکمیلی: در قابلیتهایی مانند چت با اسناد، تصاویر و ابزارها، بخشهای انتخاب شده سند، تصاویر، نتایج جستجو یا نتایج ابزار به ورودی مدل اضافه میشوند. این محتوا نیز ممکن است دادههای شخصی داشته باشد.
زیرپردازشگر: شخص ثالثی که به نمایندگی دادهها را پردازش میکند، مثلاً برای میزبانی، احراز هویت یا اجرای مدل هوش مصنوعی. قرارداد پردازش داده و پیوستها تعیینکننده طرفهای فعلی، دستههای داده، مکانها و تضمینها هستند.
قالبهای سند و دادههای حساس به حریم خصوصی
هنگام ایجاد اسناد از طریق قالبهای Word، AI-School از سیستمی از برچسبهای رزرو شده استفاده میکند. در قالب ممکن است مثلاً {naam_school}، {adres_school}، {naam_account} یا {email_account} وجود داشته باشد. مدل زبان فقط نام فیلد و دستور پر کردن فرم را دریافت میکند. دادههای واقعی شخصی و سازمانی سپس توسط خود AI-School در برنامه جایگزین میشوند.
بدین ترتیب این دادههای شناخته شده نیازی به وارد شدن در درخواست به مدل هوش مصنوعی ندارند. این امر مقدار اطلاعات حساس به حریم خصوصی که خارج از برنامه پردازش میشود را کاهش میدهد.
این مکانیزم برچسب و جایگزینی جایگزین حفاظت از دادههای شخصی نیست. این بیشتر از ارسال غیرضروری دادههای شناخته شده از برنامه به مدل زبان جلوگیری میکند. اگر کاربر خود دادههای شخصی را در درخواست یا سند وارد کند، حفاظت از دادههای شخصی همچنان مهم است.
نظارت و فیلترهای محتوا
تاریخچه چت: معلمان فقط به تاریخچه چت دانشآموزانی که مسئول آنها هستند دسترسی دارند. این دسترسی میتواند بر اساس نقش محدودتر شود.
نظارت بر کلاس: معلمان میتوانند کلاسها را شروع کرده و در صورت تمایل دانشآموزان را در طول کلاس نظارت کنند.
فیلترهای محتوا: AI-School و ارائهدهندگان مدل از اقدامات ایمنی و فیلترهای محتوا برای محدود کردن خروجیهای ناخواسته یا پرخطر استفاده میکنند. این فیلترها ریسکها را کاهش میدهند اما نمیتوانند تضمین کنند که هر پاسخ ناخواسته مسدود شود.
در بخش «دسترسی به تاریخچه» میتوانید درباره تنظیمات ممکن در زمینه نظارت بیشتر بخوانید.
ورود با حساب مدرسه
ما AI-School را با Microsoft یا Google متصل میکنیم تا ورود ایمن با حساب مدرسه شما امکانپذیر باشد. مدرسه باید اجازه استفاده از اتصال Microsoft 365 یا Google Workspace AI-School را بدهد.
این اتصال بررسی میکند که آیا ایمیل در برنامه AI-School ثبت شده است یا خیر. اینگونه از استفاده آدرسهای ایمیل ثبت نشده در محیط مدرسه جلوگیری میکنیم. در این فرآیند هیچ داده شخصی اضافی به جز ایمیل تبادل نمیشود.
بررسیها و کنترلها
DPIA: شرکت Grip IT Consultancy ارزیابی DPIA را در آوریل ۲۰۲۶ انجام داد. گزارش در ۲۰ مه ۲۰۲۶ تصویب شد و بررسی میکند که AI-School چه دادههایی را پردازش میکند، چه کسانی دسترسی دارند و چگونه دادهها ارائه و حذف میشوند. در این حوزه، میانگین ریسک حریم خصوصی به عنوان پایین ارزیابی شده و ریسکهای باقیمانده بالا شناسایی نشدهاند. مسئول حفاظت دادهها گزارش را بررسی و تأیید کرده است. همچنین نسخه عمومی این صفحهها را بررسی و تأیید کرده است. DPIA یک عکس لحظهای است و برای مدارس قابل درخواست است.
اسکن آسیبپذیری: شرکت Grip IT Consultancy از ۱۶ آوریل تا ۱۶ ژوئن ۲۰۲۵ به صورت از راه دور و تا حدی خودکار ai-school-pro.web.app را بررسی کرد. امتیاز کلی ۸ (ریسک پایین) بود، با چند نکته و توصیه. این اسکن وضعیت در حوزه و دوره بررسی شده را نشان میدهد و تضمینی برای عدم وجود آسیبپذیری نیست.
تحلیل ریسک امنیت اطلاعات: تحلیل ۱۹ ژوئن ۲۰۲۵ تهدیدها، اقدامات موجود و ریسکهای باقیمانده را شناسایی میکند، از جمله ریسک وارد کردن دادههای شخصی توسط کاربر در درخواست. این تحلیل نیز یک عکس لحظهای است.
