سازمان بهداشت جهانی (WHO) هشدار داد اقدامات احتیاطی که معمولاً برای هر فناوری جدید اعمال می شود، به طور مداوم در مورد ابزارهای مدل زبان بزرگ (LLM) که از هوش مصنوعی برای خرد کردن داده ها، ایجاد محتوا و پاسخ به سؤالات استفاده می کنند، اعمال نمی شود.

«پذیرش سریع سیستم های آزمایش نشده می تواند منجر به خطا توسط کارکنان مراقبت های بهداشتی شوداین آژانس می‌گوید، باعث آسیب به بیماران، کاهش اعتماد به هوش مصنوعی و در نتیجه تضعیف یا به تاخیر انداختن مزایای بالقوه و استفاده طولانی مدت از چنین فناوری‌هایی در سراسر جهان می‌شود.

به این ترتیب، آژانس پیشنهاد کرد که به این نگرانی ها رسیدگی شود و شواهد واضحی از منافع اندازه گیری می شود قبل از استفاده گسترده از آنها در مراقبت های بهداشتی و پزشکی معمول.

اجتناب از خطاهای مرتبط با سلامتی

WHO در حالی که مشتاق استفاده مناسب از فناوری ها برای حمایت از متخصصان مراقبت های بهداشتی، بیماران، محققان و دانشمندان است، این موارد را بیان کرد. ابزارهای جدید مبتنی بر هوش مصنوعی نیاز به هوشیاری دارند، به ویژه با توجه به چنین پلتفرم هایی که به سرعت در حال گسترش هستند مانند ChatGPT، Bard، BERT و بسیاری دیگر که درک، پردازش و تولید ارتباطات انسانی را تقلید می کنند.

به عنوان مثال، این ابزارهای جدید می توانند پاسخ هایی تولید کنند که ممکن است برای کاربر نهایی معتبر و قابل قبول به نظر برسد. WHO گفت: خطر این است که این پاسخ ها ممکن است کاملاً نادرست باشند یا حاوی خطاهای جدی باشند، به ویژه در مورد هر گونه مسائل بهداشتی.

آنها نیز می توانند باشند برای تولید و انتشار اطلاعات نادرست بسیار قانع کننده استفاده نادرست است در قالب محتوای متنی، صوتی یا ویدیویی که تشخیص آن برای عموم از محتوای سلامت قابل اعتماد دشوار است.

مهار ایمن هوش مصنوعی

این خطرات باید به دقت بررسی شوند WHO گفت: هنگام استفاده از این ابزارهای جدید برای بهبود دسترسی به اطلاعات بهداشتی، به عنوان یک ابزار پشتیبانی تصمیم، یا حتی برای افزایش ظرفیت تشخیصی در محیط‌های کم منابع برای محافظت از سلامت مردم و کاهش نابرابری.

WHO متعهد به استفاده از فن آوری های جدید برای بهبود سلامت انسان، به سیاست گذاران توصیه می کند اطمینان از ایمنی و محافظت از بیمار همانطور که شرکت های فناوری برای تجاری سازی ابزارهای LLM کار می کنند.

آژانس بار دیگر بر اهمیت آن تاکید کرد بکارگیری اصول اخلاقی و حکمرانی مناسب. در همین راستا، آژانس بهداشت سازمان ملل متحد در سال 2021 منتشر کرد اخلاق و حاکمیت هوش مصنوعی برای سلامت قبل از تصویب اولین توافق جهانی در مورد اخلاق هوش مصنوعی