به گزارش ایسنا، مدل‌های زبانی که توسط هوش مصنوعی طراحی شده‌اند و سرآمد آنان مدل هوش مصنوعی ChatGPT است، به تازگی حوزه فناوری را متحول کرده‌اند.

این شاهکار تولیدی شرکت توسعه هوش مصنوعی OpenAI منجر به تلاش رهبران بازار مانند گوگل و مایکروسافت برای انتشار نسخه‌های چت‌بات‌های خود برای کاربران و سرمایه‌گذاری‌های چند میلیارد دلاری شده است.

چنین برنامه‌هایی، هوش مصنوعی را برای توده‌ مردم در انجام کارهای روزانه مانند نوشتن، ترجمه، کدنویسی و موارد دیگر، همه از طریق تعاملات مبتنی بر پرسش و پاسخ در دسترس قرار داده‌اند.

اکنون جیمی ولز(Jimmy Wales) یکی از بنیان‌گذاران ویکی‌پدیا، آینده‌ای را متصور است که در آن اپلیکیشن‌هایی مانند ChatGPT می‌توانند جایگزین نویسندگان برای تولید محتوای مکتوب آنلاین به صورت انبوه و در دسترس شوند.

رواج دیوانه‌وار چت جی‌پی‌تی برخلاف اشتباهات مکرر و جدی آن، بنیان‌گذار ویکی‌پدیا را وادار کرده است که به طور جدی به این فکر کند که چگونه هوش مصنوعی می‌تواند بخشی از جریان کار در بزرگترین و پرخواننده‌ترین مرجع دایره المعارف در تاریخ بشریت را بر عهده بگیرد.

وی در یک مصاحبه برخی از چالش‌های ذاتی این فناوری به ویژه تمایل آن به «توهم» یا از خود درآوردن مطالب را مورد بررسی قرار داده و بینش خود را در مورد چگونگی تکامل بزرگترین مخزن آنلاین اطلاعات جهان در آینده بیان کرده است.

وی می‌گوید: ما می‌دانیم مدل‌های موجود به اندازه کافی خوب نیستند، اما جالب هستند، زیرا به نظر می‌رسد در این حوزه پتانسیل زیادی وجود دارد.

ولز افزود، یکی از موارد استفاده اولیه از هوش مصنوعی می‌تواند استفاده از یک مدل زبان بزرگ(LLM) مانند GPT برای مقایسه چندین مقاله، جستجوی نکاتی که با یکدیگر متناقض هستند و استفاده از یافته‌های آن برای شناسایی مطالبی باشد که داوطلبان انسانی ویکی‌پدیا ممکن است به آن نیاز داشته باشند.

وی می‌افزاید، یکی از سناریوهای ممکن این است که هوش مصنوعی تمام شکاف‌های موجود در ویکی‌پدیا را جستجو کند و بیابد، صفحات بالقوه مفیدی ایجاد کند که هرگز نوشته نشده‌اند و برای ایجاد خلاصه مطالب تلاش کند.

بینانگذار ویکی‌پدیا ادامه داد: من فکر می‌کنم ما هنوز خیلی از این دور هستیم که به ChatGPT بگوییم لطفاً یک معرفی در ویکی‌پدیا در مورد ساختمان امپایر استیت بنویس. در حال حاضر نمی‌دانم دقیقا چقدر با آن فاصله داریم، اما مطمئناً از آنچه که دو سال پیش فکر می‌کردم به آن نزدیک‌تر هستیم.

بسیاری از ایرادات در سیستم موجود باعث می‌شود که کمتر قابل اعتماد باشد.

تیم ویکی‌پدیا در مورد عملکرد «توهم‌آمیز» این چت‌بات‌های هوش مصنوعی و پاسخ‌های آن ابراز نگرانی کرده‌اند. آنها می‌گویند چت‌بات‌ها تمایل دارند که چیزهایی از خود در بیاورند که برای ویکی‌پدیا واقعاً بد است. این درست نیست. ما باید واقعاً مراقب این موضوع باشیم.

ولز همچنین نگران ناتوانی این فناوری در شناسایی یا تشخیص تناقضات درونی در پاسخ‌های آن است.

وی می‌گوید، حتی اگر آزادی کامل برای سیستم‌های هوش مصنوعی برای تولید اطلاعات در حال حاضر غیرممکن است، تیم ما در حال بررسی این موضوع است که چگونه این فناوری می‌تواند محتوا را با دایره‌المعارف بهبود بخشد.

ولز می‌گوید: اگر LLMها شروع به نوشتن یک مخزن دانش مرکزی مانند ویکی‌پدیا کنند، توهمات یا دروغ‌هایی که بلافاصله کشف نمی‌شوند مانند یک گلوله برفی ایجاد می‌شوند و مردم از آن مطالب غیرواقعی در نوشته‌های خود استفاده خواهند کرد و هوش مصنوعی‌های بعدی با این غیرواقعیت‌ها آموزش می‌بینند که تصحیح آنها را در درازمدت دشوار می‌کند.

سیستم‌های مجهز به هوش مصنوعی می‌توانند با تجزیه و تحلیل اطلاعات موجود، سوگیری‌های ذاتی را حل و فصل کنند.

ویکی‌پدیا(Wikipedia) مؤسسه‌ای است که توسط نویسندگان داوطلب به تعداد میلیون‌ها نفر اداره می‌شود. این دایره المعارف همواره به دلیل وجود سوگیری و تعصب در توضیحات و پوشش موضوعات مختلف مورد انتقاد قرار می‌گیرد که این مشکل با جمعیت مشارکت کنندگان آن که عمدتاً مرد و سفید پوست هستند، مرتبط دانسته می‌شود.

ولز نگران است که استفاده از LLMها برای گسترش منبع می‌تواند به مسائل مربوط به سوگیری سیستماتیک و ناخودآگاه ویکی‌پدیا کمک کند یا آن را تشدید کند. همانطور که گفته شد این منبع در حال حاضر توسط داوطلبانی نوشته و حراست می‌شود که اکثریت قریب به اتفاق آنها مردان سفیدپوست هستند، بنابراین تمایل دارد موضوعاتی را که مورد علاقه این گروه نیست، نادیده بگیرد و موضوعات دیگر را از منظر خاصی پوشش دهد.

بنیان‌گذار ویکی‌پدیا در مورد توانایی هوش مصنوعی در حل چنین مشکلی تردید دارد. وی می‌گوید: ما می‌دانیم که بسیاری از کارهای هوش مصنوعی خیلی سریع با سوگیری مواجه می‌شوند، زیرا اگر هوش مصنوعی را بر روی داده‌های جانبدارانه آموزش دهید، آنگاه آن سوگیری را دنبال می‌کند.

وی افزود: با این حال، تیم ما خوش‌بین است که چنین سیستم‌هایی بتوانند پوشش خود را با تجزیه و تحلیل تمام اطلاعات آنلاین ممکن در مورد یک موضوع و بررسی متقابل آن با سایر ورودی‌ها گسترش دهند و در نتیجه شکاف‌ها را برطرف کنند.

چنین تمرینی مقادیر زیادی اطلاعات تولید می‌کند، اما جیمی ولز نگران آن نیست، چرا که به گفته وی، استفاده از هوش مصنوعی برای سه برابر کردن تعداد ورودی‌های ویکی‌پدیا، هزینه‌های جاری موسسه را بیش از ۱۰۰۰ پوند در سال افزایش نمی‌دهد.

ChatGPT به صراحت به گونه‌ای طراحی شده است تا دیدگاهی متعادل در مورد موضوعات داشته باشد، اما مشکلات سوگیری خاص خود را دارد که در داده‌های آموزشی آن نهفته است.

انتهای پیام