![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Перші розмови з людьми про це наштовхнулися на повне заперечення (в найкращому випадку) і чи відсутність навіть спроби подумати (у найгіршому).
Тема дуже складна, але дивно, як мало людей реально вражені можливостями ШІ сьогодні, коли LLM-ам, метафорично, ще тільки півроку, вони ще роблять бульбашки ротом і пісяють в памперс.
Вас не вражає, що:
* Тест Тюрінга, фактично, пройдено?
* випадок, коли ChatGPT найняв людину в реальному світі, щоб досягти поставленої йому цілі несподіваним способом?
* ШІ пройшов екзамен на адвоката в США з результатом 90%?
* Цифрові художники і копірайтери вже рахують дні до звільнення?
* додайте ваші власні приклади.
Максимально вражені шукають бізнес-можливості, і "гонка озброєнь" між гігантами бізнесу вже почалася. Але дуже мало хто дивиться на ризик існування всього людства (див. paperclip optimizer).
Я розумію застарілий песимізм від 60х, коли проблему ШІ хотіли вирішити за півроку, і кожного разу дедлайн переносили. Але є ж певна межа, коли кількість переходить в якість. Персептрон Розенблатта відрізняється від нашого мозку кількістю і програмуванням — тобто, знов кількістю навчання нейромережі. І коли ми до неї підійдемо, завдяки закону Мура (світла пам’ять!), це вже буде воно.
Коли я чую "Але він ще не може...", я завжди хочу намалювати щось на зразок цього:
Так, є різні види інтелекту — IQ, EQ, соціальний, і що там ще; і в деяких ШІ нас не наздожене. Але це є аргумент НА КОРИСТЬ можливості існування (небезпечного) суперінтелекта, бо йому НЕ ТРЕБА обганяти нас по всіх показниках. Достатньо обігнати по 2-3 кардинально. Хтось заперечує, що як тільки ChatGPT навчиться вирішувати тести на IQ, його IQ буде вимірюватися чотиризначними цифрами?
Скажу більше, він ще у колисці нас ВЖЕ перегнав. У швидкості створення тексту, малюнків, ерудиції, і просто швидкості. Коли ШІ зможе виконати умову з вашого списку "Хай він спочатку...", буде просто запізно.
Ось список з ДЕСЯТКІВ peer-reviewed публікацій, які демонструють, що навчання нейромережі by design навчає її ОБХОДИТИ наші побажання: http://tinyurl.com/specification-gaming. Це т.з. проблема AI Alignment — як передати ШІ наші цінності.
Джерело — відосик Роберта Майлза, математика, дослідника проблеми AI Alignment: https://youtu.be/nKJlF-olKmg. Рекомендую всім все від нього.
Тема дуже складна, але дивно, як мало людей реально вражені можливостями ШІ сьогодні, коли LLM-ам, метафорично, ще тільки півроку, вони ще роблять бульбашки ротом і пісяють в памперс.
Вас не вражає, що:
* Тест Тюрінга, фактично, пройдено?
* випадок, коли ChatGPT найняв людину в реальному світі, щоб досягти поставленої йому цілі несподіваним способом?
* ШІ пройшов екзамен на адвоката в США з результатом 90%?
* Цифрові художники і копірайтери вже рахують дні до звільнення?
* додайте ваші власні приклади.
Максимально вражені шукають бізнес-можливості, і "гонка озброєнь" між гігантами бізнесу вже почалася. Але дуже мало хто дивиться на ризик існування всього людства (див. paperclip optimizer).
Я розумію застарілий песимізм від 60х, коли проблему ШІ хотіли вирішити за півроку, і кожного разу дедлайн переносили. Але є ж певна межа, коли кількість переходить в якість. Персептрон Розенблатта відрізняється від нашого мозку кількістю і програмуванням — тобто, знов кількістю навчання нейромережі. І коли ми до неї підійдемо, завдяки закону Мура (світла пам’ять!), це вже буде воно.
Коли я чую "Але він ще не може...", я завжди хочу намалювати щось на зразок цього:
Вот когда полетит их Falcon 1, тогда поговорим.
Вот когда будут клиенты, тогда поговорим.
...
Вот когда посадят на баржу, тогда поговорим.
Вот когда начнут сажать после вывода на ГПО, тогда поговорим.
Вот когда полетит б/у ракета, тогда поговорим.
Вот когда обгонят конкурентов по количеству запусков, тогда поговорим.
Вот когда запустят свой Falcon Heavy, тогда поговорим.
Вот когда сделают рабочий Raptor, тогда поговорим.
Вот когда сделают свой Dragon 2, тогда поговорим.
Вот когда начнут возить людей, тогда поговорим.
================== Вы находитесь здесь ===================
Вот когда Starship совершит успешный прыжок, тогда поговорим.
Вот когда построят свой космодром, тогда поговорим.
...
Так, є різні види інтелекту — IQ, EQ, соціальний, і що там ще; і в деяких ШІ нас не наздожене. Але це є аргумент НА КОРИСТЬ можливості існування (небезпечного) суперінтелекта, бо йому НЕ ТРЕБА обганяти нас по всіх показниках. Достатньо обігнати по 2-3 кардинально. Хтось заперечує, що як тільки ChatGPT навчиться вирішувати тести на IQ, його IQ буде вимірюватися чотиризначними цифрами?
Скажу більше, він ще у колисці нас ВЖЕ перегнав. У швидкості створення тексту, малюнків, ерудиції, і просто швидкості. Коли ШІ зможе виконати умову з вашого списку "Хай він спочатку...", буде просто запізно.
Ось список з ДЕСЯТКІВ peer-reviewed публікацій, які демонструють, що навчання нейромережі by design навчає її ОБХОДИТИ наші побажання: http://tinyurl.com/specification-gaming. Це т.з. проблема AI Alignment — як передати ШІ наші цінності.
Джерело — відосик Роберта Майлза, математика, дослідника проблеми AI Alignment: https://youtu.be/nKJlF-olKmg. Рекомендую всім все від нього.
Tags: