دستورالعمل استفاده از ابزارهای هوش مصنوعی در پژوهش
مقدمه
هوش مصنوعی مولد، میتواند ابزار کمکی مفیدی برای پژوهشگران باشد و به تسریع و تسهیل فرایندهای پژوهشی کمک کند. در عین حال استفاده از آن باید با شفافیت، مسئولیت پذیری و رعایت اخلاق علمی همراه باشد.
استفاده ناصحیح از این ابزارها می تواند منجر به اشکالاتی همانند سرقت ادبی، انتشار اطلاعات نادرست یا نقض حقوق مالکیت فکری شود.
هدف از تدوین این شیوه نامه که با بررسی موارد مشابه مانند توصیه نامه یونسکو در مورد اخلاق هوش مصنوعی (۲۰۲۱)، راهنمای اتحادیه اروپا برای استفاده مسئولانه از هوش مصنوعی مولد در پژوهش (۲۰۲۵) و گزارش شورای تحقیقات جهانی (GRC) با عنوان ابعاد ارزیابی پژوهش مسئولانه (2024) تدوین شده، ایجاد چارچوبی منسجم، شفاف و اخلاقی برای استفاده از ابزارهای هوش مصنوعی در تمامی مراحل پژوهش (پروپوزال، طرح، اجرا، گزارش و داوری) توسط پژوهشگران و داوران همکار با بنیاد ملی علم ایران است.
الف) اصول کلی
✓ رعایت اخلاق علمی: استفاده از هوش مصنوعی نباید منجر به تقلب علمی، سرقت ادبی یا مسائلی از این دست شود.
✓ شفافیت: تمامی موارد استفاده از هوش مصنوعی باید به صورت دقیق در پروپوزال، گزارش و مقاالت ذکر شود.
✓ پاسخگویی حقوقی و اخلاقی: استفاده کننده از هوش مصنوعی مسئولیت نهایی محتوا و نتایج آن را بر عهده دارد.
✓ عدم جایگزینی انسان با ماشین: هوش مصنوعی تنها یک ابزار کمکی است و نباید جایگزین خلاقیت، تفکر انتقادی و مسئولیت پژوهشگر شود.
✓ حفظ حریم خصوصی و امنیت داده ها: استفاده از هوش مصنوعی نباید منجر به افشای اطلاعات شخصی، محرمانه یا دادههای حساس شود.
ب) توصیه های عملیاتی برای پژوهشگران
استفاده از ابزارهای هوش مصنوعی در مراحل مختلف پژوهش بلامانع است، به شرطی که:
✓ منبع استفاده از ابزار به صورت مشخص ذکر شود. (نام ابزار، نسخه، تاریخ استفاده)
✓خروجی‌های دریافت شده از طریق هوش مصنوعی قبل از استفاده باید مورد بازنگری، اعتبارسنجی و تأیید علمی قرار گیرد.
✓از ابزارهایی استفاده شود که از لحاظ امنیتی و حریم خصوصی، قابل اعتماد باشند.
✓در صورت استفاده از هوش مصنوعی به عنوان ابزار کمکی،عنوان شود که «این بخش با کمک ابزار X تولید شده است.»
.1 در پروپوزالهای پژوهشی پژوهشگران موظفند:
✓در صورت برنامه‌ریزی برای استفاده از هوش مصنوعی در طرح اصلی، این موضوع را در بخش روش‌شناسی اعلام کنند.
✓دلایل استفاده از هوش مصنوعی، مزایای آن و نحوه مدیریت ریسکهای احتمالی را شرح دهند.
.2 در گزارشهای پژوهشی استفاده از هوش مصنوعی در:
✓تولید متن: باید مشخص شود.
✓تولید تصویر یا نمودار: باید منبع و نحوه تولید ذکر شود.
✓تحلیل داده: باید روش استفاده و اعتبار آن شرح داده شود.
ج) موارد منع استفاده از ابزارهای هوش مصنوعی در زمینه تولید محتوا:
✓استفاده مستقیم از خروجی‌های هوش مصنوعی بدون بازنگری و اعتبارسنجی.
✓استفاده از هوش مصنوعی برای تولید بخشهای کلیدی پژوهش (مانند تولید دادههای اصلی، یافته‌ها، بحث و نتیجه‌گیری (بدون مشارکت واقعی پژوهشگر.)
✓استفاده از هوش مصنوعی به جای نقل قول یا استناد به منبع (سرقت ادبی مخفی).
✓استفاده از هوش مصنوعی برای تولید منبع یا استناد غیرواقعی.
در زمینه تحلیل داده:
✓استناد به نتایج تحلیل دادههای هوش مصنوعی بدون اعتبارسنجی و تأیید علمی.
✓استفاده از هوش مصنوعی در اجرای آزمونهای آماری بدون دانش کافی از نحوه محاسبه و محدودیتهای آن.
✓استفاده از هوش مصنوعی برای دستکاری دادههای اصلی یا تولید دادههای ساختگی.
در زمینه تولید تصویر یا نمودار:
✓استفاده از تصاویر تولیدی هوش مصنوعی در بخشهای تحقیقاتی اصلی بدون ذکر منبع.
✓استفاده از تصاویر تولیدی هوش مصنوعی به عنوان نتیجه نهایی یک آزمایش یا مشاهده واقعی.
✓استفاده از تصاویرتولیدی هوش مصنوعی به شکلی که موجب گمراهی خواننده شود.
در زمینه حریم خصوصی و امنیت:
✓وارد کردن دادههای شخصی، محرمانه یا حساس به ابزارهای هوش مصنوعی آنلاین.
✓استفاده از ابزارهای هوش مصنوعی بدون اطمینان از رعایت مقررات حفظ حریم خصوصی.
✓استفاده از ابزارهای هوش مصنوعی که تحت نظارت قانونی نیستند یا مقررات داخلی را نقض می‌کنند.
مسئولیت پژوهشگر در استفاده از هوش مصنوعی
استفاده از ابزارهای هوش مصنوعی به عنوان یک ابزار کمکی در پژوهش، همواره باید تحت نظارت و مسئولیت
کامل پژوهشگر قرار گیرد. بنابراین:
✓پژوهشگر مسئول نهایی محتواست: حتی اگر محتوایی با کمک هوش مصنوعی تولید شده باشد، پژوهشگر
مسئول صحت علمی، دقت، منطبق بودن با اخلاق پژوهش و سازگاری با اهداف پروژه است.
✓عدم انتقال مسئولیت به ماشین: هوش مصنوعی قادر به درک مفاهیم عمیق علمی، اخلاقی یا اجتماعی نیست.
بنابراین تصمیم‌گیری نهایی و تفسیرنتایج، باید به عهده پژوهشگر باشد.
✓پاسخگویی در برابر نهاد حامی: در صورت وجود هرگونه نقض اخلاقی، اشتباه علمی یا مشکل حقوقی ناشی از استفاده از هوش مصنوعی، پژوهشگر مسئول اصلی خواهد بود.
✓آگاهی از محدودیتهای ابزارها: پژوهشگران موظفند با محدودیتهای ابزارهای هوش مصنوعی (مانند
احتمال خطای اطلاعاتی، سوگیری، عدم قابلیت اعتماد در منابع) آشنا باشند و از آنها با دقت استفاده کنند.
توصیه‌های عملیاتی برای داوران/ ناظران مسئولیت داوران/ ناظران:
✓استفاده از هوش مصنوعی در متن پروپوزال و نیز گزارشها را بررسی کرده و در صورت عدم اعلام آن، اظهارنظر کنند.
✓اطمینان حاصل کنند که استفاده از هوش مصنوعی منجر به نقض اخلاق علمی نشده است.
✓در صورت تردید در معتبر بودن محتوای تولیدی توسط هوش مصنوعی، درخواست منبع یا بازنگری اضافی دهند.
✓از اعمال تعصب نسبت به استفاده از هوش مصنوعی خودداری کنند، به شرطی که استفاده صحیح و متعهدانه
باشد.
موارد منع استفاده از هوش مصنوعی در زمینه داوری/ نظارت:
✓بارگذاری متن کامل پروپوزال یا گزارش طرح در سامانه های هوش مصنوعی.
✓استفاده از هوش مصنوعی به جای داوری/ نظارت علمی و تخصصی.
✓اعتماد کامل به نظرات یا تحلیلهای ارائه شده توسط هوش مصنوعی در مورد کیفیت پژوهش.
✓استفاده از هوش مصنوعی برای ارزیابی اخلاقی یا نوآوری پژوهش بدون بررسی انسانی.
نحوه ارجاع و ذکر استفاده از هوش مصنوعی در پروپوزال ها و گزارشهای پژوهشی
✅نحوه ذکر استفاده از هوش مصنوعی در پروپوزال و گزارش پژوهش:
بخش روش‌شناسی: نحوه استفاده از هوش مصنوعی در جمع آوری داده، تحلیل، طراحی ابزارها یا نگارش متون باید توضیح داده شود.
بخش اخلاق پژوهش: باید ذکر شود که استفاده از هوش مصنوعی مطابق با اصول اخلاقی و این شیوه نامه بوده و موارد مربوط به حریم خصوصی و دادههای حساس، رعایت شده است.
✅نحوه ارجاع در متن:
در صورت استفاده از هوش مصنوعی به عنوان ابزار کمکی، باید در متن به صورت زیرارجاع داده شود:
این بخش/تصویر…/ با کمک ابزار [نام ابزار] در تاریخ [تاریخ استفاده] تولید شده است.
مثال: این مقدمه با کمک ابزار ChatGPT نسخه 4 در تاریخ 10 اردیبهشت 1403 تولید شده و سپس توسط پژوهشگر، بازنگری و تکمیل گردید. در صورت استفاده از تصاویر یا نمودارهای تولیدی توسط هوش مصنوعی، باید در بالای شکل یا در عنوان آن ذکر شود: تصویر فوق با استفاده از ابزار 5v Midjourney تولید شده است.
✅نحوه ذکردر فهرست منابع:
در صورت لزوم، می توان در پایان گزارش یا پروپوزال بخشی با عنوان «ابزارهای مورد استفاده از هوش مصنوعی» اضافه کرد:
- OpenAI. (2023). ChatGPT [Version 4]. https://chat.openai.com
- Dev, S., et al. (2023). Midjourney v5.
توضیح تکمیلی:
در تدوین این دستورالعمل، از Qwen به عنوان ابزار کمکی به منظور بهبود ساختار منطقی، زبانی و روایی متن استفاده شده است. با این حال، کلیه محتوای نهایی این سند پس از بازبینی، اصلاحات لازم، توسط بنیاد ملی علم ایران مورد تأیید قرار گرفته است.
این دستورالعمل در تاریخ 1404/06/29 به تصویب شورای علمی بنیاد ملی علم ایران رسید و مقرر شد پس از شش ماه، مورد بازبینی قرار گیرد.
دیدگاهتان را بنویسید