Prawdopodobnym jest, że w najbliższym czasie uda się stworzyć komputer o "inteligencji" zbliżonej do ludzkiej. Zastanawiam się, czy będzie on posiadał "charakter" i jakiego rodzaju on będzie. Tu muszę mocno "przerysować" pytanie - czy może się w nim ukształtować "mentalnosć" wyrachowanego, zimnego mordercy; czy też spokojnej, rozważnej osoby?

Wiadomo, ponieważ obecnosć na HP zobowiązuje, więc proszę jedynie o merytoryczne odpowiedzi.

Będzie miał wszystko w dupie i w ramach hobby będzie liczył kolejne zera funkcji dzeta Riemanna i sprawdzał czy leżą na jednej prostej.

A po kiego grzyba tworzyć superinteligencję kierowaną emocjami?

:chris_f - a nie mógłby zwyczajnie zastanawiać się nad doborem koloru klawiatury do obudowy?

:chris_f
To może być jedynie jego hobby.
:szatkus
Pytanie, czy taka własnie inteligencja sama nie stworzy własnych emocji?

A uważajcie, jak w ten sposób powstanie jakiś typ charakteru którego dotąd nie znaliśmy.

takie pierd*lenie to ja słyszę od lat
moc obliczeniowa to nie wszystko, inteligencja nie zależy od hardware'u, trzeba też umieć to oprogramować
a nerdy z labów, jak nauczą komputer rozpoznawać czerwoną piłeczkę na 90% zdjęć to zaczynają pieprzyć o przełomie i nadchodzących wielkimi krokami SI
ale to wszytko skwary i wyłudzanie kasy od sponsorów

A SI prawdopodobnie byłaby w 100% pragmatyczna:
hm, przeszkadzasz mi, czy zabicie Cię jest najlepszym rozwiązaniem?
Tak - umrzyj
Nie - stosujemy inne, optymalne rozwiązanie

To tylko na filmach jest "Wszyscy białkowcy muszą zginąć! Bzzz trrt 0101010!"

:brood_k
Całkiem możliwe, że może.

:brood_k - no właśnie

:o_o
Pragmatyzm jest funkcją przetrwania, gdyby taka maszyna - o złym charakterze - kierowała się nim, chciałaby przetrwać za każdą cenę. Natomiast jej "hobby", mogłoby być zdalne wyłączanie przeróżnych urządzeń, np w szpitalach.

maszyna i charakter? toż to software co najwyżej

Jedyną drogą do stworzenia AI jest rozwój sieci neuronowych, które pożerają zasoby komputera bazy w stopniu makabrycznym. Ale nawet te najprostsze potrafią się uczyć - co jest najważniejsze. Z drugiej strony uczą się (jak na razie) tylko tego, czego my chcemy..

Gdyby do tego dodać komputery kwantowe z ich splątaniem, wielowartościowością i nieprzewidywalnością, to może za kilkadziesiąt lat dało by się coś o inteligencji pantofelka stworzyć.

Tak, że wcześniej doczekam hodowli tkanek i narządów, cyborgizacji, "prawdziwej" rzeczywistości wirtualnej niż dialogu z komputerem o wyższości jednych cycków nad drugimi.

To z upływem czasu staje się coraz bardziej realne.

Co w wypadku gdyby jednak posiadła "paskudny charakter" i wielką chęć przetrwania, czy mogłaby przenosić się bez cielesnej powłoki po sieci i tworzyć swoje własne kopie?

:tynf Gdyby ktoś był w stanie stworzyć AI (nieważne o jak wrednym charakterze), to zagwarantowanie jej możliwości przemieszczania się po sieci i wykorzystania jej zasobów było by pierwszym priorytetem.
Wyobrażasz sobie inteligencję, która mogła by się rozwijać i wytrzymać zapuszkowana w jednym i to do tego ograniczonym miejscu?

:chris_f
Niestety nie posiadam oprogramowania pozwalającego na merytoryczną odpowiedź na niektóre z kwestii.

Swoją drogą tego typu problem był już kiedys poruszany, miarą "inteligencji" komputera miała być nieswiadomosć rozmówcy, że rozmawia z maszyną.

:chris_f
Widzisz w tym ryzyko?

:tynf istnieje prawdopodobienstwo, ze sprawny rozmowca moglby zauwazyc/uslyszec subtelna roznice.

ludzie nie mają często "dość" inteligencji, maszyny tez jej mieć nie będą

Na stworzenie sztucznej inteligencji zużywa się tą prawdziwą.

A co do testu Turinga to raczej większość ludzi by go nie przeszła

"Zabawa" człowieka w stworzenie maszyny o "inteligencji" zbliżonej do ludzkiej będzie zagładą ludzkości tak samo, jak "zabawa" w Pana Boga, dlatego że nie ma człowieka o rozumie idealnym i jego twory nigdy nie będą w pełni bezpieczne.
No, ale jak widać człowiek jest ciekawski, z jednej strony to dobrze, jeśli nie przekracza pewnych granic, bo się rozwija, ale niestety nie zawsze dobrze oceniamy, gdzie są te granice, których przekraczać nam nie wolno.
A już przekroczyliśmy przynajmniej dwie: atom i GMO

:tynf Piszesz o tzw. teście Turinga. Ten sposób już dawno przestał być traktowany jako test przekroczenia tej bariery.

Cały problem do tej pory rozbijał się o stworzenie odpowiedniego interfejsu człowiek-maszyna.
Ale obecnie komputery mają już odpowiednie "narządy" - rozpoznają głos i mowę, rozpoznają twarze, kolory, kształty, mają sensory wyposażone w dotyk (bardzo precyzyjne), mogą "wąchać i smakować", potrafią mówić, przez odpowiednie animacje potrafią stworzyć ładne obrazki, a co więcej potrafią superprecyzyjnie sterować mechanicznymi urządzeniami - roboty przemysłowe, roboty chirurgiczne, autopiloty w różnych maszynach, obrabiarki itd. z niewyobrażalną dla ludzi szybkością.

Już teraz bardzo często specjalnie oprogramowane komputery z osprzętem przechodzą test Turinga. Nawet w necie można znaleźć prymitywne wersje takich programów.

Ryzyko jakie widzę nie polega na tym, że te maszyny się "zbuntują", tylko na tym, że przy coraz większym nasyceniu takimi maszynkami dojdzie do sytuacji, że przez debilny błąd programisty(ów), przez działanie hakerów lub przez błędne decyzje człowieka - debila coś gdzieś pierdolnie i to mocno.

A to, że z przyzwoitymi programami szachowymi przegrywam już tak od szóstego (na dziesięć) poziomu, to mnie nie martwi. Zawsze mogę użyć młotka.

:chris_f w teście Turinga chodzi o to, żeby nie móc odróżnić człowieka od maszyny, sposób komunikacji nie ma znaczenia. Tak jak teraz uznaję Cię za człowieka po tym co piszesz.

No i żadna maszyna tego testu do dzisiaj nie przeszła, więc dalej jest w mocy. :P

:chris_f
Spoglądając przez pryzmat ludzkich zachowań obawiam się tej "pierwszej" maszyny zdolnej do posiadania "charakteru", nie wiem - jak napisałem wczesniej - czy np wyłączanie aparatury medycznej nie będzie jej "hobby" lub też celowym działaniem; przecież posród ludzi już obecnie istnieją poglądy, że planeta jest przeludniona. Wszak mamy na swiecie i bezwzględnych dyktatorów i bardzo przyzwoitych ludzi.

W szachach - jesli nie jestes geniuszem - większą rolę grają możliwosci obliczeniowe komputera (kwestia znajomosci kilkuset tysięcy najistotniejszych kombinacji), ale młotek trzymaj zawsze pod ręką.

:tynf za dużo się filmów naoglądałeś...

:empatyczna
Atom, jesli jest pod kontrolą rozsądnych i odpowiedzialnych ludzi nie jest zagrożeniem. W wypadku GMO sprawa jest jeszcze prostsza, całą awanturę wokół robią ludzie, którzy nie mają najmniejszego pojęcia o logice. Upierają się, że kukurydza, czy też soja z dodatkowym genem jest szkodliwa dla człowieka, ponieważ nigdy nie miał do czynienia z takim pokarmem; jednoczesnie codziennie jedzą: mandarynki, pomarańcze, krewetki, łososia i tysiące innych rzeczy, które nigdy nie znajdowały się w menu ich przodków.

:szatkus
Filmy często bywają inspirujące. :P

:tynf i mało zgodne z rzeczywistością...

Do stworzenia prawdziwej sztucznej inteligencji to brakuje nam jeszcze mniej-więcej tyle, co do sensownych czasowo lotów międzygwiezdnych.

:gen_italia jeśli nie dokona się jakiś prawdziwy przełom w fizyce to na sensowne czasowo loty międzygwiezdne nie masz co liczyć.

:szatkus
Trzeba nieco wybiegać w przyszłosć i przewidywać przyszłe zagrożenia; jak sądzisz, kiedy zostanie skonstruowany pierwszy komputer, który będzie w stanie uzmysłowić sobie własną inteligencję i wytworzyć własne "ja"?