آیا باید به پاسخ‌های هوش مصنوعی اعتماد کنیم؟

به گزارش خبرنگار پایگاه خبری، یک کارشناس در حوزه هوش مصنوعی بیان کرده است که امروزه در بسیاری از مسائل مهم و پیچیده از این فناوری بهره‌برداری می‌شود.

هوش مصنوعی به قدری در زندگی روزمره ما نفوذ کرده است که تقریباً در هر زمینه‌ای سوالات خود را از چت‌بات‌ها می‌پرسیم و گاهی بر اساس پاسخ‌های آن‌ها تصمیم‌گیری می‌کنیم. اما سوال اساسی این است که چقدر می‌توان به این فناوری اعتماد کرد؟

«محمدرضا یمقانی»، استاد دانشگاه و رئیس کمیسیون هوش مصنوعی سازمان نصر در گفت‌وگویی در این خصوص اظهار داشت: هوش مصنوعی سیستمی است که بر اساس مفهوم یادگیری طراحی شده و هر چه این سیستم‌ها بر مبنای یادگیری «درست و کافی» باشند، پاسخ‌های آن‌ها نیز بیشتر قابل اعتماد خواهد بود.

وی در ادامه به شرایط لازم برای دریافت پاسخ صحیح از هوش مصنوعی اشاره کرد و گفت: نکته بسیار مهم در استفاده از این سیستم‌ها به‌ویژه دستیارها و سامانه‌های رایگان این است که این پاسخ‌ها به طور مطلق قابل اعتماد نیستند و باید با اطلاعات صحیح از منابع معتبر و کارشناسان، راستی‌آزمایی شوند.

یمقانی افزود: این سامانه‌ها باید به عنوان یک دستیار و کمک در اختیار کارشناسان قرار گیرند تا پاسخ‌های قابل اعتمادی از آن‌ها استخراج شود. به عنوان مثال، نمی‌توان از هوش مصنوعی برای درمان خود یا موضوعاتی مانند وکالت و مسائل حقوقی استفاده کرد. حتی در زمینه‌های آموزشی نیز اگر یک کارشناس معتبر یا معلم خبره از این سامانه‌ها استفاده نکند، ممکن است منجر به ارائه پاسخ‌های نادرست یا ناکارآمد شود.

رئیس کمیسیون هوش مصنوعی سازمان نصر در ادامه با تفکیک کاربردهای گسترده و متنوع صنعت هوش مصنوعی از شیوه‌های مرسوم استفاده مردم از آن، تصریح کرد: منظور من این نیست که هوش مصنوعی به طور کلی قابل اعتماد نیست، بلکه نسخه‌هایی که در اختیار عموم قرار دارد، از این قابلیت به دور هستند. به عنوان مثال، در حال حاضر در بسیاری از جراحی‌ها در سراسر جهان از روبات‌های مبتنی بر هوش مصنوعی استفاده می‌شود و در خصوص مسائل مهم و پیچیده با کمک سامانه‌های هوش مصنوعی تصمیم‌گیری می‌شود. اما اینکه آیا سامانه‌های در دسترس عموم می‌توانند کاربران را به طور کامل یا با درصد بالایی از صحت راهنمایی کنند، جای تردید دارد.

یمقانی در پایان تاکید کرد: مهم‌ترین نکته این است که افراد برای استفاده از هوش مصنوعی در هر حوزه‌ای باید با حداقل مفاهیم و الفبای آن حوزه آشنا باشند، زیرا پاسخ‌های چت‌بات‌ها در زمینه‌هایی که ما به طور کلی با آن بیگانه هستیم، می‌تواند گمراه‌کننده باشد.