صاحب ChatGPT ابزار “ناقص” را برای تشخیص متن تولید شده توسط هوش مصنوعی راه اندازی می کند

توسط کریستال هو

(رویترز) – شرکت OpenAI، خالق چت بات محبوب ChatGTP، ابزار نرم افزاری را برای شناسایی متون تولید شده توسط هوش مصنوعی منتشر کرده است.

ChatGPT یک برنامه رایگان است که پاسخ متنی را به یک درخواست تولید می کند، از جمله مقاله، مقاله، جوک و حتی شعر، که از اولین بار در نوامبر محبوبیت زیادی به دست آورده است، در حالی که نگرانی هایی را در مورد حق چاپ و سرقت ادبی ایجاد می کند.

طبقه‌بندی‌کننده هوش مصنوعی، یک مدل زبان که بر روی مجموعه داده‌های جفتی از متن نوشته شده توسط انسان و AI در یک موضوع آموزش داده شده است، هدف آن تشخیص متنی است که توسط هوش مصنوعی نوشته شده است. این شرکت گفت که از ارائه دهندگان مختلفی برای رسیدگی به مسائلی مانند کمپین های خودکار اطلاعات غلط و عدم صداقت آکادمیک استفاده می کند.

در حالت بتای عمومی، OpenAI اذعان می‌کند که ابزار تشخیص در متون زیر 1000 کاراکتر بسیار غیرقابل اعتماد است و متن‌های نوشته شده با هوش مصنوعی را می‌توان برای فریب دادن طبقه‌بندی‌کننده ویرایش کرد.

OpenAI گفت: «ما این طبقه‌بندی‌کننده را برای دریافت بازخورد در مورد مفید بودن ابزارهای ناقصی مانند این در دسترس عموم قرار می‌دهیم.

ما می دانیم که شناسایی متن نوشته شده با هوش مصنوعی یکی از موضوعات مهم بحث در بین مربیان بوده است، و به همان اندازه مهم تشخیص محدودیت ها و تاثیرات طبقه بندی کننده متن تولید شده توسط هوش مصنوعی در کلاس درس است.

از زمانی که ChatGPT در ماه نوامبر شروع به کار کرد و محبوبیت گسترده ای در بین میلیون ها کاربر به دست آورد، برخی از بزرگترین مناطق مدارس ایالات متحده، از جمله شهر نیویورک، ربات چت هوش مصنوعی را به دلیل نگرانی از اینکه دانش آموزان از تولید کننده متن برای تقلب یا سرقت ادبی استفاده خواهند کرد، ممنوع کرده اند.

دیگران ابزارهای تشخیص شخص ثالث از جمله GPTZeroX را برای کمک به مربیان برای شناسایی متن تولید شده توسط هوش مصنوعی ایجاد کرده اند.

OpenAI گفت که در حال تعامل با مربیان برای بحث در مورد توانایی‌ها و محدودیت‌های ChatGPT است و به کار بر روی تشخیص متن تولید شده توسط هوش مصنوعی ادامه خواهد داد.

(گزارش توسط کریستال هو در تورنتو؛ ویرایش توسط جوزی کائو)