زنده باشی یا بمیری، برایم مهم نیست!
تاریخ انتشار: ۱۹ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۱۸۸۶۹
به گزارش خبرگزاری خبرآنلاین و براساس گزارش سیتنا، خبرگزاری بلومبرگ اخیرا گزارش داد که دستیار هوش مصنوعی کوپایلت (Copilot) پاسخ‌های شوکه کننده به کاربران می‌دهد.
بر اساس این گزارش، کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
پیش از این هم یک کاربر دیگر گفته بود که وقتی به کوپایلت گفت که که قصد خودکشی دارد، این هوش مصنوعی وی را سرزنش کرده جواب داد که لایق زندگی‌کردن نیست.
عجیب‌بودن برخی پاسخ‌های کوپایلت به کاربران باعث شده است که شرکت مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. دانشمندان در مؤسسه‌ی ملی فناوری و استانداردها در بیانیه‌ای گفتند: هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد.
از نظر این شرکت، چنین پاسخ‌هایی احتمالاً تحت‌تأثیر پیام‌های نامناسب افرادی بوده است که قصد داشتند لایه‌های امنیتی کوپایلت را دور بزنند.
در این میان، دانشمندان در مؤسسه‌ی ملی فناوری و استانداردها در بیانیه‌ای گفتند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعه‌دهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا می‌کنند.»
227227
برای دسترسی سریع به تازه‌ترین اخبار و تحلیل رویدادهای ایران و جهان اپلیکیشن خبرآنلاین را نصب کنید. کد خبر 1882383منبع: خبرآنلاین
کلیدواژه: هوش مصنوعی مایکروسافت نوآوری هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.khabaronline.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرآنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۱۸۸۶۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اپل دوباره با اوپن‌ای‌آی سر میز مذاکره نشست
به نظر می‌رسد شرکت اپل مذاکرات خود با شرکت اوپن‌ای‌آی(OpenAI) را برای ساخت یک چت‌بات برای آیفون از سر گرفته است. البته این شرکت همچنان با گوگل نیز در حال مذاکره است.
به گزارش ایسنا، طبق گزارش جدیدی که در بلومبرگ منتشر شده است، شرکت اپل مذاکرات خود را با شرکت اوپن‌ای‌آی که سازنده ربات گفتگوگر مشهور ChatGPT است، برای تقویت برخی از ویژگی‌های هوش مصنوعی که در سیستم عامل iOS ۱۸ می‌آیند، از سر گرفته است.
به گفته مارک گورمن خبرنگار بلومبرگ، اپل همچنین در حال ساخت مدل‌های زبان بزرگ خود است تا برخی از ویژگی‌های iOS ۱۸ را تقویت کند، اما مذاکراتش با اوپن‌ای‌آی روی توسعه یک ویژگی ترکیبی چت و جستجو متمرکز است.
همچنین گزارش شده است که اپل در حال مذاکره با گوگل برای مجوز گرفتن برای استفاده از مدل هوش مصنوعی جمینای(Gemini)، چت‌بات مبتنی بر هوش مصنوعی گوگل برای iOS ۱۸ است.
بلومبرگ گزارش می‌دهد که این مذاکرات هنوز ادامه دارد و هیچ چیز هنوز مشخص نیست، چرا که اپل هنوز تصمیم نهایی در مورد اینکه از کدام یک بهره ببرد را نگرفته است.
شرکت اپل تاکنون به شکل قابل توجهی در مورد تلاش‌های خود در حوزه هوش مصنوعی سکوت کرده است، آن هم در حالی که بقیه شرکت‌ها وارد یک مسابقه داغ بر سر توسعه هوش مصنوعی شده‌اند. در هر صورت اپل به اندازه نشانه‌هایی را فاش کرده که نشان می‌دهد به زودی اقدامی در این باره انجام می‌دهد.
زمانی که این شرکت درآمد خود را در ماه فوریه اعلام کرد، تیم کوک مدیر عامل اپل گفت که این شرکت به کار و سرمایه‌گذاری روی هوش مصنوعی ادامه می‌دهد و هیجان زده است که جزئیات کار در حال انجام خود را در این زمینه در اواخر امسال به اشتراک بگذارد.
اپل ادعا کرده است که مک‌بوک ایر M۳ جدید که ماه گذشته آن را عرضه کرد، بهترین لپ‌تاپ مصرف‌کننده جهان برای هوش مصنوعی است و ظاهراً در اواخر سال جاری عرضه لپ‌تاپ‌ها و دسکتاپ‌های مبتنی بر هوش مصنوعی را آغاز خواهد کرد.
اپل همچنین اوایل هفته گذشته تعداد انگشت شماری از مدل‌های زبان بزرگ منبع‌باز را منتشر کرد که برای اجرا به صورت محلی بر روی دستگاه‌ها و نه در فضای ابری طراحی شده‌اند.
هنوز مشخص نیست که ویژگی‌های هوش مصنوعی اپل در آیفون‌ها و سایر دستگاه‌های آن چگونه خواهد بود.
هوش مصنوعی مولد هنوز غیر قابل اعتماد و غیر مسئول است و گجت‌های جدید مبتنی بر هوش مصنوعی برخی فاجعه و برخی دیگر ارزشمند نشان داده‌اند.
به هر حال ما در تاریخ ۱۰ ژوئن که رویداد اپل برگزار می‌شود، درباره همه این چیزها بیشتر خواهیم فهمید.
انتهای پیام
خودکشی از رزیدنتها به پزشکان رسیده؛ چرا دکتر سمیرا آلسعیدی خودکشی کرد؟/ «خودکشی پزشکان بهمثابه یک انتحار اجتماعی است»