ضرورت رعایت ملاحظات در بکارگیری از هوش مصنوعی(AI) در پژوهش و فناوری

با سلام و احترام،

ضمن ارسال پیوست نامه، با توجه به گسترش استفاده از ابزارهای هوش مصنوعی در حوزه پژوهش‌های علمی و ضرورت آگاهی‌بخشی درباره اصول و ملاحظات اخلاقی و امنیتی به شرح زیر را به استحضار ‬می رساند:

۱. آشنایی با قابلیت‌ها و محدودیت‌های هوش مصنوعی

• درک عملکرد AI: قبل از استفاده از ابزارهای هوش مصنوعی، لازم است کاربران به درستی با نحوه عملکرد آنها آشنا شوند. این شامل درک الگوریتم‌ها، مدل‌ها و محدودیت‌های فناوری است.
• پذیرش محدودیت‌ها: هوش مصنوعی ممکن است در برخی مواقع اطلاعات نادرست یا ناقص ارائه دهد. بنابراین، نباید به طور کورکورانه به خروجی‌های آن اعتماد کرد.

۲. رعایت اصول اخلاقی

• جلوگیری از سوءاستفاده: استفاده از هوش مصنوعی باید در چارچوب اصول اخلاقی صورت گیرد. به عنوان مثال، استفاده از AI برای تقلب در نوشتن مقالات یا جعل داده‌ها غیراخلاقی است.
• شفافیت: هنگام استفاده از هوش مصنوعی در پژوهش، باید به طور شفاف ذکر شود که چگونه و در کجا از این فناوری استفاده شده است.
• حفظ حریم خصوصی: اگر داده‌های حساس یا شخصی در پژوهش استفاده می‌شود، باید از حریم خصوصی افراد محافظت شود و از مدل‌هایی استفاده شود که امنیت داده‌ها را تضمین می‌کنند.

۳. تأیید اعتبار منابع و داده‌ها

• بررسی دقت داده‌ها: داده‌های ورودی به مدل‌های هوش مصنوعی باید دقیق و معتبر باشند. استفاده از داده‌های نادرست می‌تواند منجر به نتایج غلط شود.
• اعتبارسنجی خروجی‌ها: خروجی‌های AI باید توسط متخصصان حوزه مربوطه بررسی و تأیید شوند. این کار به جلوگیری از اشتباهات و خطاهای بالقوه کمک می‌کند.

۴. هماهنگی با اصول علمی

• پایبندی به روش‌شناسی علمی: استفاده از هوش مصنوعی نباید به معنای کنار گذاشتن روش‌های سنتی و علمی باشد. بلکه باید به عنوان یک ابزار کمکی در کنار روش‌های موجود استفاده شود.
• تجربه و تحلیل انسانی: هوش مصنوعی نمی‌تواند جایگزین تفکر انتقادی و تحلیل عمیق انسانی شود. بنابراین، نتایج AI باید با تحلیل‌های انسانی ترکیب شوند.

۵. استفاده از ابزارهای مناسب

• انتخاب ابزار مناسب: ابزارهای مختلفی برای کاربردهای مختلف وجود دارند. انتخاب ابزاری که به بهترین شکل با نیازهای پژوهش هماهنگ است، ضروری است.
• آموزش و مهارت‌آموزی: استادان و دانشجویان باید در استفاده از ابزارهای هوش مصنوعی آموزش ببینند تا بتوانند به طور مؤثر از آنها استفاده کنند.

۶. مدیریت زمان و منابع

• استفاده بهینه از زمان: هوش مصنوعی می‌تواند فرآیندهای پژوهشی را سریع‌تر کند، اما نباید به معنای کاهش دقت و کیفیت باشد.
• برنامه‌ریزی منابع: استفاده از هوش مصنوعی ممکن است نیازمند منابع محاسباتی یا مالی باشد. برنامه‌ریزی دقیق برای مدیریت این منابع ضروری است.

۷. همکاری بین‌رشته‌ای

• همکاری با متخصصان AI: در پروژه‌های پیچیده، همکاری با متخصصان هوش مصنوعی می‌تواند به بهبود کیفیت پژوهش کمک کند.
• تبادل دانش: استادان و دانشجویان باید با اشتراک دانش و تجربیات خود، به توسعه کاربردهای هوش مصنوعی در حوزه‌های مختلف کمک کنند.

۸. بروزرسانی و یادگیری مداوم

• پیگیری پیشرفت‌ها: فناوری هوش مصنوعی به سرعت در حال تغییر و پیشرفت است. بنابراین، استادان و دانشجویان باید از آخرین تحولات و نوآوری‌ها آگاه باشند.
• یادگیری مداوم: یادگیری مهارت‌های جدید و به‌روزرسانی دانش در زمینه هوش مصنوعی برای استفاده مؤثر از این فناوری ضروری است.

۹. ارزیابی و بازنگری نتایج

• بررسی مجدد نتایج: نتایج حاصل از هوش مصنوعی باید به طور مکرر و دقیق بررسی شوند تا از صحت و قابلیت اطمینان آنها اطمینان حاصل شود.
• بازخورد و بهبود: بر اساس بازخوردهای دریافتی، می‌توان مدل‌ها و فرآیندهای استفاده شده را بهبود بخشید.

۱۰. رعایت قوانین و مقررات

• پیروی از قوانین محلی و بین‌المللی: در استفاده از هوش مصنوعی، باید از قوانین و مقررات مرتبط با حفظ داده‌ها، حق نشر و حقوق مالکیت فکری پیروی شود.
• اجتناب از سوءاستفاده علمی: استفاده از هوش مصنوعی برای تولید محتوای جعلی یا تقلبی در پژوهش‌ها باید به شدت اجتناب شود.

و مهم‌تر از همه اینکه اگر داده منتشر نشده‌ای را در اختیار هوش مصنوعی قرار دهیم احتمال اینکه این داده مجدداً در بروندادهای بعدی هوش مصنوعی مورد استفاده قرار گیرد خیلی زیاد است. که می‌تواند مشکلات همانند جویی را در هنگام تلاش برای انتشار نتایج بهمراه آورد.‌‌‌‌‌‌‌

خواهشمنداست دستور اطلاع رسانی مناسب به پژوهشگران محترم آن دانشکده / ‏مرکز‬ صادر فرمائید.

با سلام و احترام،

ضمن ارسال پیوست نامه، با توجه به گسترش استفاده از ابزارهای هوش مصنوعی در حوزه پژوهش‌های علمی و ضرورت آگاهی‌بخشی درباره اصول و ملاحظات اخلاقی و امنیتی به شرح زیر را به استحضار ‬می رساند:

۱. آشنایی با قابلیت‌ها و محدودیت‌های هوش مصنوعی

• درک عملکرد AI: قبل از استفاده از ابزارهای هوش مصنوعی، لازم است کاربران به درستی با نحوه عملکرد آنها آشنا شوند. این شامل درک الگوریتم‌ها، مدل‌ها و محدودیت‌های فناوری است.
• پذیرش محدودیت‌ها: هوش مصنوعی ممکن است در برخی مواقع اطلاعات نادرست یا ناقص ارائه دهد. بنابراین، نباید به طور کورکورانه به خروجی‌های آن اعتماد کرد.

۲. رعایت اصول اخلاقی

• جلوگیری از سوءاستفاده: استفاده از هوش مصنوعی باید در چارچوب اصول اخلاقی صورت گیرد. به عنوان مثال، استفاده از AI برای تقلب در نوشتن مقالات یا جعل داده‌ها غیراخلاقی است.
• شفافیت: هنگام استفاده از هوش مصنوعی در پژوهش، باید به طور شفاف ذکر شود که چگونه و در کجا از این فناوری استفاده شده است.
• حفظ حریم خصوصی: اگر داده‌های حساس یا شخصی در پژوهش استفاده می‌شود، باید از حریم خصوصی افراد محافظت شود و از مدل‌هایی استفاده شود که امنیت داده‌ها را تضمین می‌کنند.

۳. تأیید اعتبار منابع و داده‌ها

• بررسی دقت داده‌ها: داده‌های ورودی به مدل‌های هوش مصنوعی باید دقیق و معتبر باشند. استفاده از داده‌های نادرست می‌تواند منجر به نتایج غلط شود.
• اعتبارسنجی خروجی‌ها: خروجی‌های AI باید توسط متخصصان حوزه مربوطه بررسی و تأیید شوند. این کار به جلوگیری از اشتباهات و خطاهای بالقوه کمک می‌کند.

۴. هماهنگی با اصول علمی

• پایبندی به روش‌شناسی علمی: استفاده از هوش مصنوعی نباید به معنای کنار گذاشتن روش‌های سنتی و علمی باشد. بلکه باید به عنوان یک ابزار کمکی در کنار روش‌های موجود استفاده شود.
• تجربه و تحلیل انسانی: هوش مصنوعی نمی‌تواند جایگزین تفکر انتقادی و تحلیل عمیق انسانی شود. بنابراین، نتایج AI باید با تحلیل‌های انسانی ترکیب شوند.

۵. استفاده از ابزارهای مناسب

• انتخاب ابزار مناسب: ابزارهای مختلفی برای کاربردهای مختلف وجود دارند. انتخاب ابزاری که به بهترین شکل با نیازهای پژوهش هماهنگ است، ضروری است.
• آموزش و مهارت‌آموزی: استادان و دانشجویان باید در استفاده از ابزارهای هوش مصنوعی آموزش ببینند تا بتوانند به طور مؤثر از آنها استفاده کنند.

۶. مدیریت زمان و منابع

• استفاده بهینه از زمان: هوش مصنوعی می‌تواند فرآیندهای پژوهشی را سریع‌تر کند، اما نباید به معنای کاهش دقت و کیفیت باشد.
• برنامه‌ریزی منابع: استفاده از هوش مصنوعی ممکن است نیازمند منابع محاسباتی یا مالی باشد. برنامه‌ریزی دقیق برای مدیریت این منابع ضروری است.

۷. همکاری بین‌رشته‌ای

• همکاری با متخصصان AI: در پروژه‌های پیچیده، همکاری با متخصصان هوش مصنوعی می‌تواند به بهبود کیفیت پژوهش کمک کند.
• تبادل دانش: استادان و دانشجویان باید با اشتراک دانش و تجربیات خود، به توسعه کاربردهای هوش مصنوعی در حوزه‌های مختلف کمک کنند.

۸. بروزرسانی و یادگیری مداوم

• پیگیری پیشرفت‌ها: فناوری هوش مصنوعی به سرعت در حال تغییر و پیشرفت است. بنابراین، استادان و دانشجویان باید از آخرین تحولات و نوآوری‌ها آگاه باشند.
• یادگیری مداوم: یادگیری مهارت‌های جدید و به‌روزرسانی دانش در زمینه هوش مصنوعی برای استفاده مؤثر از این فناوری ضروری است.

۹. ارزیابی و بازنگری نتایج

• بررسی مجدد نتایج: نتایج حاصل از هوش مصنوعی باید به طور مکرر و دقیق بررسی شوند تا از صحت و قابلیت اطمینان آنها اطمینان حاصل شود.
• بازخورد و بهبود: بر اساس بازخوردهای دریافتی، می‌توان مدل‌ها و فرآیندهای استفاده شده را بهبود بخشید.

۱۰. رعایت قوانین و مقررات

• پیروی از قوانین محلی و بین‌المللی: در استفاده از هوش مصنوعی، باید از قوانین و مقررات مرتبط با حفظ داده‌ها، حق نشر و حقوق مالکیت فکری پیروی شود.
• اجتناب از سوءاستفاده علمی: استفاده از هوش مصنوعی برای تولید محتوای جعلی یا تقلبی در پژوهش‌ها باید به شدت اجتناب شود.

و مهم‌تر از همه اینکه اگر داده منتشر نشده‌ای را در اختیار هوش مصنوعی قرار دهیم احتمال اینکه این داده مجدداً در بروندادهای بعدی هوش مصنوعی مورد استفاده قرار گیرد خیلی زیاد است. که می‌تواند مشکلات همانند جویی را در هنگام تلاش برای انتشار نتایج بهمراه آورد.‌‌‌‌‌‌‌

مراتب جهت اطلاع  پژوهشگران محترم دانشکدگان است خواهشمنداست رعایت فرمایند.