بنیاد ملی علوم ایالات متحده امروز از سرمایه گذاری 10.9 میلیون دلاری برای حمایت از تحقیقاتی خبر داد که به اطمینان از پیشرفت در هوش مصنوعی با ایمنی مصرف کننده کمک می کند.
نکته از سیستم هایی با قابلیت یادگیری ایمن این برنامه، مشارکتی بین NSF، Open Philanthropy و Good Ventures است، برای تقویت تحقیقات بنیادی که منجر به طراحی و استقرار سیستم‌های کامپیوتری ایمن و قابل یادگیری – از جمله فناوری‌های هوش مصنوعی مستقل و مولد – می‌شود که هم ایمن و هم پایدار هستند.
ستورامان پانچاناتان، مدیر NSF، گفت: «تعهد NSF به بررسی چگونگی اطمینان از ایمنی سیستم‌های هوش مصنوعی پیامی روشن به جامعه تحقیقاتی هوش مصنوعی می‌فرستد: ما ایمنی را برای گسترش و تکامل مسئولانه هوش مصنوعی مهم می‌دانیم.» NSF همچنان به تحقیقات پیشرفته در زمینه هوش مصنوعی ادامه می دهد – نه تنها برای یافتن فرصت هایی برای نوآوری، بلکه برای بهبود ایمنی.
از آنجایی که اندازه سیستم‌های هوش مصنوعی به سرعت رشد می‌کنند، قابلیت‌های جدیدی به دست می‌آورند و در محیط‌های پر خطر مانند مراقبت‌های بهداشتی، تجارت و حمل‌ونقل مستقر می‌شوند، ایمنی این سیستم‌ها بسیار مهم می‌شود. این جوایز نشان‌دهنده سرمایه‌گذاری‌های کلیدی NSF در هوش مصنوعی با طراحی سیستم‌های خودکار انعطاف‌پذیر با محدودیت‌های ایمنی سرتاسر واضح و دقیق است که به‌شدت آزمایش شده‌اند تا اطمینان حاصل شود که هیچ رفتار ناایمن در طول استقرار رخ نمی‌دهد.
لیست زیر پروژه های گیرندگان را شناسایی و خلاصه می کند:
- ملزومات آموزش ایمنی آگاهانه در بیابان، دانشگاه ویسکانسین-مدیسون.
محققان الگوریتم‌ها و متدولوژی‌های یادگیری ماشین آگاهانه جدیدی را طراحی خواهند کرد که می‌توانند داده‌هایی را که خارج از توزیع عادی هستند شناسایی کنند تا از سیستم‌هایی که در طبیعت در محیط‌های پویا و غیرقابل پیش‌بینی به‌طور فزاینده مستقر هستند، محافظت کنند.
- یک ناظر ایمنی حداکثر نمادین مبتنی بر دیدگاه با تنزل برازنده و تأیید رویه ای، دانشگاه پرینستون.
محققان برای توسعه فناوری جدیدی کار خواهند کرد که می‌تواند به طور مداوم بر عملکرد سیستم‌های رباتیک خودران، مانند ماشین‌های خودران و ربات‌های خانگی نظارت کند و در صورت نیاز برای اطمینان از ایمنی مداخله کند.
- ایمنی هنگام تغییر توزیع در سیستم های قدرت قابل یادگیری، ویرجینیا تک و دانشگاه کالیفرنیا، برکلی.
محققان با تمرکز بر سیستم‌های قدرت، سیستم‌های جدید قابل یادگیری و ایمنی را طراحی می‌کنند، سیستم‌های تصمیم‌گیری مشارکتی را بررسی می‌کنند و تست‌های استرس سخت را برای اطمینان از قابلیت این سیستم‌ها در طول رویدادهای نادر یا غیرمنتظره اعمال می‌کنند.
- سیستم‌های یادگیری تقویتی انتشار ایمن: نظریه‌ها، الگوریتم‌ها و آزمایش‌ها، دانشگاه میشیگان، دانشگاه ایالتی آریزونا و دانشگاه ایالتی اوهایو.
محققان برای غلبه بر یک مانع بزرگ مرتبط با تکنیک‌های یادگیری تقویتی – فقدان ضمانت‌های ایمنی – با توسعه فن‌آوری‌های اصلی برای سیستم‌های قابل یادگیری ایمن بر اساس تکنیک‌های یادگیری تقویتی انتشار کار خواهند کرد.
- ادراک مبتنی بر مشخصات، یادگیری تقویتی ایمن منسجم را فعال کرد، دانشگاه پنسیلوانیا.
این پروژه محققانی را با تخصص در یادگیری تقویتی، روش‌های رسمی، تئوری یادگیری ماشین و روباتیک گرد هم می‌آورد تا چارچوب یادگیری تقویتی را با ضمانت‌ها و محدودیت‌های ایمنی دقیق ریاضی و تجربی طراحی و پیاده‌سازی کند.
- دیدگاه نظری در مورد ایمنی مولد هوش مصنوعی: کوتاه مدت و بلند مدت، دانشگاه هاروارد.
محققان روش‌های ریاضی دقیقی را برای پیاده‌سازی هوش مصنوعی توسعه خواهند داد که با تضمین‌های نظری قوی مبنی بر اینکه سیستم‌های هوش مصنوعی از رفتار مورد نظر منحرف نخواهند شد. این امر با ایجاد بررسی‌ها و پادمان‌های قوی برای فناوری‌های هوش مصنوعی مانند ChatGPT به دست می‌آید.
- لوله های تضمینی برای یادگیری ایمن در معماری های خودمختار، دانشگاه ایلینویز Urbana-Champaign و دانشگاه کارولینای جنوبی.
این تحقیق سیستم جدیدی به نام “Simplex با قابلیت داده” طراحی خواهد کرد که زمینه را برای پیشرفت سیستم‌های مستقل قابل یادگیری فراهم می‌کند و به آنها اجازه می‌دهد تا یاد بگیرند و با تغییرات غیرمنتظره و موانع ناشناخته سازگار شوند.
- پیوند طراحی آفلاین و انطباق آنلاین در سیستم های ایمن دارای برنامه درسی، دانشگاه پنسیلوانیا و دانشگاه کالیفرنیا، برکلی.
این پروژه بر کاهش ابهامات مرتبط با سیستم‌های قابل یادگیری در محیط‌های ناشناخته با استفاده از طرح‌های جدید تمرکز دارد که امکان مبادله اصولی بین خطرات ایمنی سیستم و جمع‌آوری و یادگیری فعال داده‌ها را فراهم می‌کند، در نتیجه زنجیره بین نظارت بر ایمنی آنلاین و طراحی آفلاین را می‌بندد.
- CRASH – سناریوهای خصمانه چالش برانگیز مبتنی بر یادگیری تقویتی برای تقویت ایمنی، دانشگاه ویرجینیا.
این پروژه یک چارچوب جدید برای تست استرس نرم افزار موجود برای وسایل نقلیه خودران ایجاد می کند که به شناسایی خرابی های نرم افزاری بالقوه کمک می کند. این چارچوب از سناریوهای نادر اما واقعی استفاده می‌کند که می‌تواند باعث از کار افتادن خودروهای خودران شود و سپس نرم‌افزار را بهبود می‌بخشد تا اطمینان حاصل شود که خرابی دوباره تکرار نمی‌شود.
- مبانی ارزیابی کیفی و کمی ایمنی سیستم های آموزش پذیر، دانشگاه نبراسکا-لینکلن و موسسه تحقیقاتی دانشگاه آگوستا.
هدف این پروژه ایجاد پایه‌های ارزیابی‌های کیفی و کمی ایمنی پایان به انتها برای سیستم‌های مستقل قابل یادگیری است که امکان درک عمیق نگرانی‌های ایمنی را فراهم می‌کند و امکان تأیید ایمنی مؤثر در محیط‌های نامشخص را فراهم می‌کند.
- تأیید و اجرای محدودیت‌های ایمنی در تولید متوالی مبتنی بر هوش مصنوعی، UCLA و دانشگاه ایلینوی در اوربانا شامپاین.
تیمی از محققان الگوریتم‌هایی را برای ارزیابی ایمنی برنامه‌های هوش مصنوعی تحت سناریوهای مختلف توسعه خواهند داد و به رفتار آنها در موقعیت‌های حساس ماموریت اطمینان می‌دهند. این تجزیه و تحلیل خرابی‌های غیرمنتظره هوش مصنوعی را کاهش می‌دهد، از تعصب و تبعیض در فناوری‌های هوش مصنوعی جلوگیری می‌کند، سیستم‌های هوش مصنوعی را با ارزش‌های انسانی و هنجارهای اجتماعی همسو می‌کند و اعتماد عمومی را به برنامه‌های دارای هوش مصنوعی ایجاد می‌کند.
اطلاعات بیشتر در مورد سیستم هایی با قابلیت یادگیری ایمن برنامه را می توان در یافتnsf.gov.
