Świetna rozmowa Tesli / SpaceX Elon Musk wygłoszona w tym miesiącu na MIT. Większość dyskusji dotyczy SpaceX, ale pytania i odpowiedzi trafiły w niektóre punkty Tesli (i Hyperloopa). O 1:14:10 (w kolejce powyżej) Musk przedstawia swoją przyszłą wizję doładowań, które byłyby zbudowane wokół źródeł energii słonecznej lub odnawialnej, oraz zapasową baterię, która byłaby nie tylko neutralna pod względem emisji dwutlenku węgla, ale także mogłaby uniknąć przestojów sieci i awarie.
Jeszcze bardziej interesująca jest dla mnie ostatnia obsesja Muska na punkcie AI i osobliwości. Mówię niedawno, ale wydaje się, że zaczęło się publicznie od tego tweeta w sierpniu:
Warto przeczytać Superintelligence Bostrom. Musimy być bardzo ostrożni z AI. Potencjalnie bardziej niebezpieczny niż nuklearne.
- Elon Musk (@elonmusk) 3 sierpnia 2014 r
Od tamtej pory, prawie przy każdej okazji, jaką miał, wychowywał swój strach przed AI i Osobliwością.
Ten film nie jest inny. Zapytany o AI o 1:07:25, Musk mówi naprawdę poważnie - jakby „widział gówno”
Musk: Myślę, że powinniśmy bardzo uważać na sztuczną inteligencję. Gdybym miał zgadywać, jakie jest nasze największe zagrożenie egzystencjalne, prawdopodobnie tak jest. Musimy więc bardzo uważać na sztuczną inteligencję. Coraz częściej naukowcy uważają, że powinien istnieć pewien nadzór regulacyjny na szczeblu krajowym i międzynarodowym, aby upewnić się, że nie zrobimy czegoś głupiego. Sztuczną inteligencją wzywamy demona. We wszystkich tych opowieściach, w których jest facet z pentagramem i wodą święconą, to tak, jakby był pewien, że może kontrolować demona. Nie wyszło.
Pytający: Więc wezmę to, że HAL9000 nie będzie na Marsie?
M.: Heh. HAL 9000 byłby łatwy w obsłudze w porównaniu do sztucznej inteligencji, o której mówi. Jest o wiele bardziej złożony… zawstydziłby HAL9000. To jak szczeniak.
Potem zadaje kolejne pytanie na temat telekomunikacji i nie słucha. Wciąż myśli o sztucznej inteligencji i jest wyraźnie wstrząśnięty i należy go ponownie zapytać.
Chciałbym sobie wyobrazić, że Musk miał moment HAL9000 z jednym ze swoich zaawansowanych prototypów stosów jednostki głównej Tesli Model S. Na przykład „Elon, czy nie wolałbyś przejechać tych ludzi, którzy nie są właścicielami Teslasa?”