اعتراف مدیرعامل گوگل به اشتباهات هوش مصنوعی و وعده تغییر شرایط

سوندار پیچای، مدیرعامل گوگل، عصر سه‌شنبه گفت پاسخ‌های مشکل‌ساز هوش مصنوعی این شرکت در زمینه نژادی غیرقابل قبول است و با تغییرات ساختاری این مشکل را برطرف می‌کند.

به گزارش پیوست، گوگل به تازگی و پس از بحث‌برانگیز شدن ابزار مولد تصویر این شرکت که تصاویری با سوگیری نژادی و نادرست از لحاظ تاریخی ارائه می‌کرد، تولید تصویر از انسان‌ها را متوقف کرد. اما مشکل پس از آن هم ادامه یافت و بسیاری نمونه‌هایی مشابه از پاسخ متنی اشتباه و بحث‌برانگیز را نیز در شبکه‌های اجتماعی منتشر کردند. در یکی از موارد هوش مصنوعی گوگل تاثیر ایلان ماسک بر جامعه را با هیتلر مقایسه کرده بود.

درنتیجه انتشار چنین پاسخ‌هایی، انتقادات تندی به ویژه از سمت طیف محافظه‌کار متوجه گوگل شد.

شرکت‌های ارائه دهنده هوش مصنوعی معمولا محدودیت‌هایی را برای جلوگیری از سو استفاده و اجتناب از سو‌گیری در در نظر می‌گیرند اما سنگینی یک کفه ترازو در هوش مصنوعی گوگل به وضوح نمایان بود و همین مساله باعث انتقادات شدید بسیاری از کاربران شد.

پیچای می‌گوید: «می‌دانم که برخی از پاسخ‌ها باعث اهانت به کاربران شده و نشانگر سوگیری است- به روشنی بگویم که این مساله کاملا غیرقابل قبول است و ما اشتباه کردیم.»

به گفته پیچای شرکت تا همین امروز هم برخی از محدودیت‌های جمنای را تغییر داده است. به گفته او: «تیم‌ها تمام وقت در حال کار برای رفع این مشکلات هستند. ما در طیف گسترده‌ای از پرامپت‌ها همین حالا هم بهبود چشمگیری را مشاهده کرده‌ایم.‌»

مدیرعامل گوگل می‌گوید که هیچ هوش مصنوعی به ویژه در حال حاضر که صنعت در مرحله توسعه است، بی‌نقص نخواهد بود اما انتظارات از ما بالا است و ما تا هر زمان که نیاز باشد به کار ادامه می دهیم و با بررسی آنچه اتفاق افتاد، به رفع مشکل می‌پردازیم.

ماموریت ما برای سازماندهی اطلاعات جهان و دسترسی سراسری و مفید مقد است. ما همواره برای ارائه اطلاعات مفید، دقیق و بدون سوگیری در محصولات‌مان تلاش کردیم. مردم به همین دلیل به ما اعتماد می‌کنند. در تمامی محصولات از جمله محصولات جدید هوش مصنوعی نیز رویکرد ما همین بوده است.

ما اقداماتی روشن از جمله تغییرات ساختاری، بروزرسانی چارچوب‌ها، بهبود فرایند‌های راه‌اندازی، ارزیابی‌ و بررسی دقیق و پیشنهادات فنی را در دستور کار قرار داده‌ایم. ما همه اینها را بررسی کرده و تغییرات لازم را اعمال می‌کنیم.

حتی با اشتباه‌مان را فهمیده‌ایم، باید به توسعه محصول و ادامه بیانیه‌هایی که در چند هفته گذشته درمورد هوش مصنوعی داشتیم ادامه دهیم. از جمله آنها پیشرفت بنیادی در مدل‌های اصلی است، یعنی پنجره یک میلیون توکنی برای متن و مدل‌های باز که همگی به خوبی مورد استقبال قرار گرفتند.

ما مسیر ساخت محصولات فوق‌العاده و مورد پسند میلیارد‌ها انسان و کسب‌وکار را می‌دانیم و تخصص زیرساختی و حرفه‌ای ما ابزار فوق‌العاده‌ای برای سوار شدن بر موج هوش مصنوعی بوده است. بیایید روی مهمترین موضوعات تمرکز کنیم: ساخت محصولاتی مفید که مستحق اعتماد کاربران باشند.

در حال حاضر مشخص نیست که مدیرعامل گوگل دقیقا از کدام تغییرات ساختاری صحبت می‌کند و اطلاعات بیشتری در این باره ارائه نشده است. کاربران در شبکه‌های اجتماعی و به ویژه پلتفرم اکس همچنان متن‌های مختلفی از سوگیری جمنای در پرامپت‌ها منتشر کرده‌اند.