اخلاق و حریم خصوصی در هوش مصنوعی
| مدرس: دکتر محمدحسین رهبان | دوره: هوش مصنوعی |
| زمان ارائه: TBD | گواهینامه: رسمی |
هدف کلی
هدف این درس، آشنایی دبیران با مهمترین ملاحظات اخلاقی، حریم خصوصی و مسئولیتپذیری در استفاده از مدلهای زبانی و ابزارهای هوش مصنوعی در محیط آموزشی است. انتظار میرود فراگیر پس از پایان درس بتواند خطرهای اصلی استفاده از این ابزارها در مدرسه را شناسایی کند، درباره انتقال و نگهداری داده توسط سرویسهای هوش مصنوعی آگاهانه تصمیم بگیرد و از ورود اطلاعات شخصی و حساس دانشآموزان به ابزارهای عمومی خودداری کند. همچنین فراگیر با روشهای ناشناسسازی و حداقلسازی داده، شناسایی خطا و توهم، بررسی منابع، اعتبارسنجی پاسخها و تشخیص سوگیری و بازنمایی ناعادلانه آشنا میشود. در ادامه، فراگیر میآموزد چگونه استفاده دانشآموزان از هوش مصنوعی را بهگونهای مدیریت کند که هدف یادگیری حفظ شود، تکلیف و ارزشیابی را متناسب با عصر مدلهای زبانی بازطراحی کند و با حفظ نظارت، مسئولیتپذیری و عاملیت انسانی، از هوش مصنوعی بهعنوان ابزار کمکی و نه جایگزین قضاوت حرفهای استفاده کند.
سرفصلها
- مهمترین خطرهای استفاده از مدلهای زبانی در مدرسه
- افشای اطلاعات و نقض حریم خصوصی
- تولید اطلاعات نادرست، توهم و منابع ساختگی
- سوگیری، تبعیض و بازتولید کلیشهها
- تقلب و کاهش یادگیری واقعی
- واگذاری تصمیمهای پرخطر به مدل
- وابستگی بیش از حد و کاهش عاملیت انسانی
- محرمانگی داده و نحوه استفاده سرویسهای هوش مصنوعی از اطلاعات
- مسیر انتقال داده از کاربر به سرویس هوش مصنوعی
- تفاوت ارسال داده با انتشار عمومی آن
- نگهداری، ثبت، بررسی و استفاده ثانویه از دادهها
- بررسی سیاست نگهداری داده، نوع حساب و تنظیمات حریم خصوصی
- سه پرسش اصلی پیش از استفاده از ابزار: داده کجا میرود، چه مدت نگهداری میشود و برای چه منظوری استفاده میشود
- حریم خصوصی و اطلاعات حساس دانشآموزان
- اطلاعات هویتی و تماس
- تصویر، صدا و ویدئوی قابل شناسایی
- نمرات، سوابق تحصیلی، رفتاری و انضباطی همراه با هویت
- اطلاعات پزشکی، روانشناختی، خانوادگی، اقتصادی و اجتماعی
- شناسایی غیرمستقیم افراد از طریق ترکیب چند نشانه
- تفاوت حذف نام با ناشناسسازی واقعی
- ناشناسسازی دادهها و نوشتن پرامپت ایمن
- حذف اطلاعات غیرضروری
- تعمیم جزئیات کمیاب و قابل شناسایی
- جایگزینی اطلاعات واقعی با دادههای فرضی
- حداقلسازی داده و ارائه فقط اطلاعات لازم برای انجام کار
- بازنویسی پرامپتهای پرخطر به نسخههای ایمنتر
- خطا، توهم و اطلاعات ساختگی
- چرایی تولید پاسخ نادرست با لحن مطمئن
- نقش دادههای ناقص، قدیمی یا متناقض در بروز خطا
- تأثیر ابهام پرسش بر کیفیت پاسخ
- ادعاهای غلط، منابع ساختگی و تعمیم بیش از حد
- پرهیز از برابر دانستن روانبودن پاسخ با درستبودن آن
- منابع و اعتبارسنجی پاسخ مدل
- درخواست پاسخ مبتنی بر منابع معتبر
- مشخصکردن ادعاهای مهم و موارد نامطمئن
- بررسی واقعیبودن منابع، نویسندگان، سال انتشار و پیوندها
- مراجعه به منبع اصلی برای بررسی ادعاهای مهم
- استفاده از پروتکل «پاسخ هوش مصنوعی، منبع اصلی، قضاوت انسانی»
- بررسی ادعاهای حساس با منابع مستقل، منابع رسمی یا متخصص موضوعی
- سوگیری، تبعیض و بازنمایی ناعادلانه
- منشأ سوگیری در داده، مدل و نحوه طرح درخواست
- کلیشههای جنسیتی، فرهنگی، زبانی، اقتصادی و اجتماعی
- بررسی تفاوت عملکرد یا قضاوت مدل درباره گروههای مختلف
- تشخیص خروجی یا تصمیم ناعادلانه
- استفاده از چکلیست انصاف پیش از بهکارگیری خروجی مدل
- استفاده دانشآموزان از هوش مصنوعی؛ یادگیری یا تقلب؟
- تمایز میان استفاده بدون هوش مصنوعی، کمک محدود، همکاری با هوش مصنوعی و واگذاری کامل کار
- تمرکز بر میزان تفکر و یادگیری دانشآموز، نه صرفاً استفاده یا عدم استفاده از AI
- تعریف سیاست روشن کلاسی برای استفاده مجاز، مشروط و نامجاز
- الزام به اعلام استفاده از هوش مصنوعی در موارد لازم
- پرهیز از تحویل کامل خروجی تولیدشده، منابع جعلی و دورزدن هدف یادگیری
- طراحی تکلیف و ارزشیابی در عصر مدلهای زبانی
- طراحی تکلیف فرایندمحور بهجای تمرکز صرف بر محصول نهایی
- مقایسه پاسخ اولیه دانشآموز با پاسخ هوش مصنوعی
- توضیح پذیرش یا رد بخشهای مختلف پاسخ مدل
- شناسایی و توضیح محدودیتهای پاسخ هوش مصنوعی
- استفاده از دفاع شفاهی کوتاه برای مشاهده یادگیری واقعی
- پرسش درباره مسئله، انتخاب روش و بخشهای پذیرفته یا ردشده از پاسخ مدل
- ارزیابی نحوه استفاده دانشآموز از هوش مصنوعی
- تغییر پرامپت و مقایسه پاسخهای حاصل
- ارزیابی پاسخها با معیارهای مشخص
- سنجش توانایی دانشآموز در مقایسه، نقد و انتخاب بین پاسخها
- ارزیابی فهم مسئله، کیفیت پرامپت و تفکر انتقادی
- توجه به شفافیت در اعلام استفاده از هوش مصنوعی
- سنجش مالکیت یادگیری و توانایی دفاع از پاسخ نهایی
- مسئولیتپذیری و نظارت انسانی
- نقش هوش مصنوعی در ارائه پیشنهاد و نقش انسان در ارزیابی و تصمیمگیری
- مسئولیت نهایی دبیر و مدرسه در قبال محتوای مورد استفاده
- تشخیص فعالیتهای کمخطر و تصمیمهایی که نیازمند بررسی جدی هستند
- پرهیز از واگذاری تشخیص، برچسبزنی، تصمیم انضباطی و قضاوت درباره آینده تحصیلی به مدل
- ضرورت نظارت انسانی در تصمیمهای حساس آموزشی
- حفظ عاملیت انسانی در عصر هوش مصنوعی
- مفهوم عاملیت؛ تعیین هدف، انتخاب مسیر، قضاوت و پذیرش مسئولیت
- اصل «انسان ابتدا، هوش مصنوعی در نقش کمککننده، انسان در تصمیم نهایی»
- تعیین مستقل هدف یادگیری پیش از مراجعه به هوش مصنوعی
- دریافت چند گزینه از مدل و توجیه انتخاب توسط انسان
- حفظ مرحله بازبینی انسانی برای خروجیهای مهم
- مراجعه به منبع معتبر در شرایط عدم اطمینان
ارزیابی
- آزمون: آزمونهای میاننیمسال و پایاننیمسال (۵۰ درصد نمره)
- تمرین و پروژه: سه تمرین تئوری و یک پروژه عملی که در طول نیمسال تحویل داده میشوند (۵۰ درصد نمره).
منابع
- UNESCO, Guidance for Generative AI in Education and Research, 2023, Persian Version.
- OECD, How to Effectively Use Generative AI in Education, 2026, Online.
- U.S. Department of Education, Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations, Report.
- UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021, Online.
- European Commission, Ethical Guidelines on the Use of Artificial Intelligence (AI) and Data in Teaching and Learning for Educators, Online.