Илон Мъск призова да се спрат големи експерименти с AI
разни / / April 03, 2023
Той беше подкрепен от водещи изследователи в индустрията.
Организацията с нестопанска цел Future of Life Institute публикува отворено писмо, подписано от Илон Мъск, съосновател на Apple Стив Возняк, съоснователят на Skype Яан Талин, както и други изследователи и ръководители на AI от големи компании.
В писмото се твърди, че лабораториите са заключени в „надпревара извън контрол“ за разработване и прилагане системи за машинно обучение, които „никой – дори техните създатели – не могат да разберат, предскажат или уверено контрол“. Ето какво предлагат авторите:
Призоваваме всички лаборатории за изкуствен интелект незабавно да преустановят обучението за системи с изкуствен интелект над GPT-4 за поне 6 месеца. Спирането на операциите трябва да бъде публично и да може да се провери и всички ключови играчи трябва да бъдат включени. Ако не е възможно да се направи пауза в близко бъдеще, правителствата на страните трябва да се намесят и да наложат мораториум.
От Pause Giant AI Experiments: Отворено писмо
Писмото също така изразява недоволство от позицията „ще го пуснем така, както е, ще го поправим по-късно“ при разработването на невронни мрежи (помнете поне бард от Google). Дори Отворете AI вече повдигна потенциалната нужда от бъдещи одити на сигурността на AI. Авторите на писмото смятат, че това бъдеще вече е настъпило.
Разработчиците на AI и независимите експерти трябва да използват тази почивка за съвместно разработване и внедряване унифицирани протоколи за сигурност за сложни AI системи, спазването на които ще се проверява от външни независими експерти. Такива протоколи ще помогнат да се гарантира, че системите са достатъчно безопасни за използване.
От Pause Giant AI Experiments: Отворено писмо
Пълният текст на писмото можете да прочетете Тук.
Прочетете също🧐
- Как да използвате ChatGPT в Telegram и бързо да получавате отговори на всякакви въпроси без браузър
- Как да използвате GPTZero, инструмент за търсене на текст, създаден от ChatGPT
- „ChatGPT няма да замени работата на специалист“: интервю с експерта по Web 3.0 Стас Устенко