هیچ ابزار هوش مصنوعی تشخیص صددرصدی ندارد

فرشید دانش، عضو هیئت علمی گروه پژوهشی مدیریت اطلاعات مؤسسه استنادی و پایش علم و فناوری جهان اسلام، در حاشیه مراسم دومین نشست تخصصی سردبیران نشریات علمی نمایه شده در wos و scopus که در دانشگاه شهید بهشتی برگزار شد، در گفت‌وگو با ایسنا، با اشاره به محورهای سخنرانی خود در دومین نشست سردبیران نشریات علمی وزارت علوم، تحقیقات و فناوری، اظهار کرد: این نشست امروز در تالار شهید بهشتی دانشگاه شهید بهشتی برگزار شد و تمرکز اصلی آن بر راهبردها و زیست‌بوم داوری مجلات علمی نمایه‌شده در پایگاه‌های اسکوپوس و وب آو ساینس بود.

وی با بیان اینکه در این سخنرانی، مدل‌های سنتی داوری و همچنین شیوه‌های نوین داوری علمی مورد بررسی قرار گرفت، افزود: تلاش شد بر اساس پژوهش‌های انجام‌شده در سطح بین‌المللی، تحولات جدید حوزه داوری مجلات علمی تبیین شود.

پدیده ریترکشن و داوری‌های تقلبی در مجلات علمی

این عضو هیئت علمی با اشاره به اینکه یکی از محورهای مهم این نشست، بررسی پدیده «ریترکشن» یا بازپس‌گیری مقالات بود، تصریح کرد: در این بخش، به موضوع داوری‌های تقلبی یا آنچه در ادبیات علمی با عنوان «فیک پیر ریویو» شناخته می‌شود، پرداخته شد و پیامدهای اخلاقی و علمی این نوع تخلفات مورد بحث قرار گرفت.

دانش ادامه داد: در همین چارچوب، نتایج یک پژوهش بین‌المللی که دیدگاه‌ها و رفتارهای حدود پنج هزار پژوهشگر و دانشمند را در زمینه شیوه‌های داوری و نحوه استفاده از هوش مصنوعی در فرآیند داوری و نگارش مقالات بررسی کرده بود، مورد ارزیابی قرار گرفت.

لزوم سیاست‌گذاری شفاف سردبیران برای استفاده از هوش مصنوعی

وی با تأکید بر نقش سردبیران و مدیران مسئول مجلات علمی بیان کرد: در بخش دیگر سخنرانی، جمع‌بندی مباحث بر این نکته متمرکز بود که سردبیران و مدیران مجلات باید سیاست‌گذاری‌های مشخص، شفاف و مبتنی بر اصول اخلاقی داشته باشند تا استفاده از هوش مصنوعی در مجلات به‌صورت صحیح و قانونی انجام شود.

این مقام مسئول با اشاره به اینکه ابزارهای متنوعی در حوزه هوش مصنوعی برای نگارش مقاله، داوری مقالات و مدیریت مجلات علمی در دسترس است، خاطرنشان کرد: آنچه اهمیت دارد، شیوه استفاده از این ابزارهاست؛ چرا که در صورت عدم رعایت راهنماها و دستورالعمل‌های مشخص، استفاده نادرست از هوش مصنوعی می‌تواند مصداق تقلب علمی تلقی شود و در نهایت به ریترکشن مقاله منجر شود.

راهنماهای ملی برای استفاده مسئولانه از هوش مصنوعی

دانش با بیان اینکه در صورت وقوع ریترکشن، مقاله از مجله و ناشر بازپس گرفته می‌شود و برچسب بازپس‌گیری به دلیل تخلف غیراخلاقی علمی ثبت خواهد شد، افزود: به همین دلیل، در سطوح مختلف از جمله وزارت علوم و وزارت بهداشت، راهنماها و دستورالعمل‌هایی در حال تدوین و ابلاغ است تا به اعضای هیئت علمی و پژوهشگران اعلام شود که تحت چه شرایطی و با استفاده از چه پلتفرم‌هایی می‌توانند از هوش مصنوعی بهره ببرند.

وی توضیح داد: برای مثال، پژوهشگران می‌توانند از ابزارهای هوش مصنوعی برای ارتقای زبان انگلیسی مقاله یا تهیه پیش‌نویس اولیه استفاده کنند، اما به هیچ عنوان مجاز نیستند هوش مصنوعی را به‌عنوان نویسنده مقاله معرفی کنند.

هوش مصنوعی نویسنده نیست، ابزار تسهیلگر است

این عضو هیئت علمی با اشاره به تجربه‌های اولیه استفاده از هوش مصنوعی در سال ۲۰۲۲ بیان کرد: در آن مقطع، برخی مقالات در مجلات معتبر بین‌المللی منتشر شد که در آن‌ها هوش مصنوعی به‌عنوان نویسنده معرفی شده بود، اما تمامی این مقالات به دلیل مغایرت با مقررات علمی بازپس‌گیری شدند.

دانش تأکید کرد: قوانین جدید تصریح می‌کنند که هوش مصنوعی صرفاً نقش تسهیلگر دارد، نه نویسنده، و پژوهشگران موظف‌اند استفاده از این ابزارها را در بخش تقدیر و تشکر (Acknowledgment) یا روش‌شناسی (Methodology) مقاله به‌صورت شفاف اعلام کنند.

ضرورت تبیین مقررات برای همه مجلات علمی کشور

وی با بیان اینکه پدیده هوش مصنوعی هنوز سابقه‌ای کمتر از پنج سال دارد، گفت: در ایران نیز همچنان نیازمند تبیین و آموزش گسترده این قوانین هستیم و برگزاری نشست‌هایی از این دست باید در دانشگاه‌ها و برای انواع مجلات علمی، اعم از مجلات نمایه‌شده در اسکوپوس و وب آو ساینس، مجلات ISC، دانشگاه آزاد، پیام نور و حتی نشریات نوپا که هنوز در هیچ نمایه‌ای ثبت نشده‌اند، ادامه یابد. دانش در پاسخ به پرسشی درباره امکان تشخیص استفاده از هوش مصنوعی در مقالات علمی اظهار کرد: ابزارهایی با عنوان «AI Detector» در سطح بین‌المللی وجود دارد، اما این ابزارها نیز دقت صددرصدی ندارند.

وی افزود: اگرچه متخصصان حوزه هوش مصنوعی با اتکا به تجربه و دانش خود ممکن است بتوانند تا حدی تشخیص دهند که متنی توسط انسان یا هوش مصنوعی تولید شده است، اما در نهایت، هیچ ابزار یا فردی نمی‌تواند با قطعیت کامل اعلام کند که یک مقاله حتماً با استفاده از هوش مصنوعی نوشته شده یا خیر، و تا این لحظه، راهکارهای موجود فاقد قطعیت هستند.

هوش مصنوعی همان مسیر کتابخانه‌ها را تکرار می‌کند؛ پیش‌بینی‌های افراطی محقق نشد

عضو هیات علمی گروه پژوهشی مدیریت اطلاعات مؤسسه استنادی و پایش علم و فناوری جهان اسلام، با اشاره به سابقه تخصصی خود در حوزه کتابداری و فعالیت در کتابخانه‌ها، اظهار کرد: در دهه‌های گذشته نیز پیش‌بینی‌هایی مشابه آنچه امروز درباره هوش مصنوعی مطرح می‌شود، درباره پایان کتابخانه‌ها وجود داشت.

وی با بیان اینکه در اواخر دهه ۱۹۹۰ میلادی، مقاله‌ای منتشر شد که در آن پژوهشگری به نام «لنکستر» پیش‌بینی کرده بود سال ۲۰۰۰، پایان عصر کتابخانه‌ها خواهد بود و پس از آن دیگر کتابخانه‌ای در جهان وجود نخواهد داشت، افزود: اکنون در سال ۲۰۲۵ مشاهده می‌کنیم که نه‌تنها چنین اتفاقی رخ نداده، بلکه کتابخانه‌ها به‌طور مستمر در حال گسترش، توسعه و افزایش نقش‌آفرینی هستند.

هوش مصنوعی ساخته انسان است و جایگزین تفکر انسانی نمی‌شود

این مقام مسئول با تأکید بر اینکه هوش مصنوعی محصول طراحی و خلاقیت انسان است، تصریح کرد: هر میزان که این فناوری توسعه یابد، همچنان قادر نخواهد بود پیچیدگی‌های مغزی، فکری و قدرت تعقل انسان را به‌طور کامل بازآفرینی کند.

دانش با اشاره به محدودیت‌های ذاتی هوش مصنوعی بیان کرد: این فناوری می‌تواند در انجام محاسبات سنگین، برخی تحلیل‌ها و ترجمه‌ها مورد استفاده قرار گیرد، اما زمانی که وارد حوزه تحلیل‌های پیچیده می‌شویم، نیاز به تفکر انتقادی و تفکر خلاق داریم؛ توانمندی‌هایی که به‌صورت انحصاری متعلق به انسان هستند و هوش مصنوعی فاقد آن‌هاست.

هوش مصنوعی ابزار است، نه جایگزین انسان

وی خاطرنشان کرد: در نهایت، هرچقدر هوش مصنوعی پیشرفت کند، نقش آن تسهیل‌گری برای کار انسان است، نه جایگزینی انسان، و نگاه افراطی به این فناوری می‌تواند منجر به برداشت‌های نادرست در سیاست‌گذاری علمی و پژوهشی شود.

عضو هیات علمی گروه پژوهشی مدیریت اطلاعات مؤسسه استنادی و پایش علم و فناوری جهان اسلام گفت: همان‌گونه که کتابخانه‌ها با وجود تحولات فناورانه نه‌تنها از بین نرفتند بلکه تکامل یافتند، هوش مصنوعی نیز باید به‌عنوان ابزاری در خدمت اندیشه انسانی دیده شود، نه تهدیدی برای آن.

منبع : ایسنا