سایت خبری
famaserver
  • صفحه اصلی
  • اخبار ورزشی
  • بین الملل
  • اقتصادی
  • اخبار استانها
  • اخبار روز
  • سیاسی
  • علمی و فناوری
سایت خبری

سرتیتر خبرها

یک اتوبوس اسرائیلی در غرب رام‌الله مورد تیراندازی قرار گفت +جزئیات

یک اتوبوس اسرائیلی در غرب رام‌الله مورد تیراندازی قرار گفت +جزئیات

1 ساعت پیش
تشدید تنش‌های مرزی؛ آغاز حمله هوایی پاکستان به افغانستان

تشدید تنش‌های مرزی؛ آغاز حمله هوایی پاکستان به افغانستان

1 ساعت پیش
وقوع دو انفجار در کابل/ پاکستان به قندهار حمله هوایی کرد

وقوع دو انفجار در کابل/ پاکستان به قندهار حمله هوایی کرد

1 ساعت پیش
شکنجه‌گران«نحشون» بر سر البرغوثی ریخته و ۴ دنده او را شکستند

شکنجه‌گران«نحشون» بر سر البرغوثی ریخته و ۴ دنده او را شکستند

1 ساعت پیش
کارشناس صهیونیست: برای حماس هیچ جایگزینی وجود ندارد و مردم غزه طرفدار آن هستند

کارشناس صهیونیست: برای حماس هیچ جایگزینی وجود ندارد و مردم غزه طرفدار آن هستند

1 ساعت پیش
ویتکاف: توافق با ایران، اولویت سیاست خارجی ترامپ است

ویتکاف: توافق با ایران، اولویت سیاست خارجی ترامپ است

1 ساعت پیش
دیوید پترائوس ژنرال سابق آمریکایی  از کاخ جمهوری در بغداد بازدید کرد

دیوید پترائوس ژنرال سابق آمریکایی  از کاخ جمهوری در بغداد بازدید کرد

1 ساعت پیش
چرا اختلافات طالبان و پاکستان افزایش یافت؟

چرا اختلافات طالبان و پاکستان افزایش یافت؟

1 ساعت پیش
تحویل پیکرهای گمنام با دستان و چشمان بسته

تحویل پیکرهای گمنام با دستان و چشمان بسته

1 ساعت پیش
کاتس: به نقض خط زرد در غزه پاسخ می‌دهیم

کاتس: به نقض خط زرد در غزه پاسخ می‌دهیم

1 ساعت پیش

Home » اشتباه مرگبار هوش مصنوعی پزشکی گوگل / یک عضو غیرواقعی در مغز انسان

اشتباه مرگبار هوش مصنوعی پزشکی گوگل / یک عضو غیرواقعی در مغز انسان

زمان انتشار: 7 آگوست 2025 ساعت 13:23

دسته بندی: علمی و فناوری

شناسه خبر: 600777

زمان مطالعه: 6 دقیقه

اشتباه مرگبار هوش مصنوعی پزشکی گوگل / یک عضو غیرواقعی در مغز انسان

اشتباه مرگبار هوش مصنوعی پزشکی گوگل / یک عضو غیرواقعی در مغز انسان

به گزارش یولن، به نقل از دیجیاتو، در یک مقاله تحقیقاتی که توسط خود گوگل برای نمایش قابلیت‌های مدل هوش مصنوعی Med-Gemini منتشر شده بود، این مدل در تحلیل سی‌تی اسکن سر، یک ناهنجاری را در «گانگلیون بازیلر» (Basilar Ganglia) تشخیص داد؛ بخشی از مغز که اصلاً وجود خارجی ندارد. این هوش مصنوعی، دو ساختار کاملاً مجزا و متفاوت در مغز، یعنی «گانگلیون‌های پایه» (Basal Ganglia) و «شریان بازیلر» (Basilar Artery) را با هم ترکیب و یک نام جدید اختراع کرده بود.

محققان و پزشکان این خطا را «فوق‌العاده خطرناک» توصیف می‌کنند. آنها می‌گویند: «این دو کلمه مختلف، یک دنیا تفاوت ایجاد می‌کنند.» تشخیص اشتباه میان این دو ناحیه می‌تواند به پروتکل‌های درمانی کاملاً متفاوت و بالقوه مرگبار برای بیمار منجر شود.

به گزارش ورج، پس از آنکه دکتر «برایان مور» (Bryan Moore)، عصب‌شناس، این اشتباه فاحش را به گوگل گزارش داد، این شرکت در ابتدا تلاش کرد تا با ویرایش پنهانی پست وبلاگ خود و تغییر «Basilar» به «Basal»، موضوع را یک «غلط تایپی» ساده جلوه دهد. اما پس از فشارهای بیشتر، گوگل با بازگرداندن عبارت اشتباه، در توضیحی جدید ادعا کرد که این یک «اشتباه رایج در رونویسی» است که هوش مصنوعی از داده‌های آموزشی خود یاد گرفته است.

مشکلات به همین جا ختم نمی‌شود. آزمایش‌های انجام شده توسط متخصصان دیگر، یک ضعف اساسی دیگر را در این مدل‌های هوش مصنوعی آشکار کرده است: عدم ثبات در پاسخ‌دهی.

دکتر «جودی گیچویا» (Judy Gichoya) از دانشگاه اموری، در آزمایشی یک عکس رادیولوژی از قفسه سینه را به مدل جدیدتر گوگل، MedGemma، نشان داد. وقتی دکتر سؤالش را با جزئیات کامل (شامل ارائه سن و جنسیت بیمار) پرسید، هوش مصنوعی مشکل را به درستی تشخیص داد. اما وقتی همان عکس را با یک سؤال ساده‌تر (صرفاً «در این عکس چه می‌بینی؟») به هوش مصنوعی نشان داد، پاسخ کاملاً متفاوت بود: «این عکس یک قفسه سینه نرمال از یک فرد بزرگسال را نشان می‌دهد.» و مشکل به‌طور کامل نادیده گرفته شد.

این قضیه نشان می‌دهد که کوچک‌ترین تغییری در نحوه تعامل با هوش مصنوعی می‌تواند منجر به نتایج کاملاً متضاد و خطرناک شود.

کارشناسان معتقدند بزرگ‌ترین خطر این سیستم‌ها، اشتباهات گاه‌به‌گاه آنها نیست، بلکه اعتماد به لحن متقاعدکننده‌ای است که با آن، اطلاعات غلط (مانند وجود گانگلیون بازیلر) را به عنوان یک حقیقت علمی بیان می‌کنند.

 دکتر «جاناتان چن» (Jonathan Chen) از دانشگاه استنفورد، این پدیده را به رانندگی خودکار تشبیه می‌کند: «ماشین آنقدر خوب رانندگی کرده است که شما تصمیم می‌گیرید پشت فرمان بخوابید. این دقیقاً همان جایی است که خطر اتفاق می‌افتد.»

درکل پدیده‌ای که به آن «سوگیری اتوماسیون» (Automation Bias) گفته می‌شود، می‌تواند باعث شود پزشکان به دلیل عملکرد عمدتاً صحیح هوش مصنوعی، از بررسی دقیق نتایج آن غافل شوند و اشتباهات فاحش را نادیده بگیرند. کارشناسان می‌گویند این مدل‌ها ذاتاً تمایل به ساختن چیزها دارند و هرگز نمی‌گویند «من نمی‌دانم» و این یک مشکل بسیار بزرگ در حوزه‌های پرخطری مانند پزشکی است.

۵۸۵۸

حتما بخوانید : کپی چینی میباخ قبل از رونمایی شکار شد /عکس
برچسب ها
هوش مصنوعی
اشتراک گذاری

اخبار مرتبط

  • قیمت ال ۹۰ ایرانی اعلام شد
    قیمت ال ۹۰ ایرانی اعلام شد 22 ساعت پیش
  • ادعای جنجالی ترکیه در دبی: تا ۱۰ سال دیگر «ابرقدرت» جهانی می‌شویم
    ادعای جنجالی ترکیه در دبی: تا ۱۰ سال دیگر «ابرقدرت» جهانی می‌شویم 22 ساعت پیش
  • بمب خبری تویوتا / تصاویر نسل جدید کرولا لو رفت
    بمب خبری تویوتا / تصاویر نسل جدید کرولا لو رفت 22 ساعت پیش
  • اژدهای سرخ بیدار شد؛ پرتاب موشک غول‌پیکر چین که پنتاگون را به وحشت انداخت!
    اژدهای سرخ بیدار شد؛ پرتاب موشک غول‌پیکر چین که پنتاگون را به وحشت انداخت! 22 ساعت پیش

دیدگاه ها

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دسته بندی موضوعات

  • آذربایجان شرقی 577
  • آذربایجان غربی 484
  • اجتماعی 9010
  • اخبار استانها 35
  • اخبار بورس 276
  • اخبار تکنولوژی 120
  • اخبار روز 42
  • اخبار ورزشی 11816
  • اردبیل 359
  • اصفهان 603
  • اقتصادی 8129
  • البرز 1631
  • ایلام 246
  • بازار کار 389
  • بوشهر 165
  • بین الملل 19549
  • تبلیغات 20
  • تهران 342
  • چند رسانه ای 0
  • چهارمحال و بختیاری 761
  • خراسان جنوبی 309
  • خراسان رضوی 668
  • خراسان شمالی 166
  • خوزستان 384
  • زنجان 310
  • سبک زندگی 400
  • سلامت 3366
  • سمنان 2082
  • سیاسی 8064
  • سیستان و بلوچستان 5
  • عکس 79
  • علمی و فناوری 5941
  • فارس 404
  • فرهنگ و هنر 5101
  • قزوین 547
  • قم 330
  • کاریکاتور 78
  • کردستان 538
  • کرمان 2091
  • کرمانشاه 478
  • کهگیلویه و بویراحمد 444
  • گلستان 315
  • گیلان 335
  • لرستان 18
  • مازندران 84
  • مرکزی 5
  • هرمزگان 398
  • همدان 603
  • یزد 160
famaserver

جدیدترین مقالات

  • یک اتوبوس اسرائیلی در غرب رام‌الله مورد تیراندازی قرار گفت +جزئیات
    یک اتوبوس اسرائیلی در غرب رام‌الله مورد تیراندازی قرار گفت +جزئیات 5 ساعت پیش
  • تشدید تنش‌های مرزی؛ آغاز حمله هوایی پاکستان به افغانستان
    تشدید تنش‌های مرزی؛ آغاز حمله هوایی پاکستان به افغانستان 5 ساعت پیش
  • وقوع دو انفجار در کابل/ پاکستان به قندهار حمله هوایی کرد
    وقوع دو انفجار در کابل/ پاکستان به قندهار حمله هوایی کرد 5 ساعت پیش
  • شکنجه‌گران«نحشون» بر سر البرغوثی ریخته و ۴ دنده او را شکستند
    شکنجه‌گران«نحشون» بر سر البرغوثی ریخته و ۴ دنده او را شکستند 5 ساعت پیش
  • کارشناس صهیونیست: برای حماس هیچ جایگزینی وجود ندارد و مردم غزه طرفدار آن هستند
    کارشناس صهیونیست: برای حماس هیچ جایگزینی وجود ندارد و مردم غزه طرفدار آن هستند 5 ساعت پیش

لینکهای پیشنهادی

سرور مجازی | خرید هاست | دانلود نرم افزار | یادگیری زبان آلمانی

میزبانی در هاست لینوکس فاماسرور