Megvédheti-e magát az emberekkel szemben a mesterséges intelligencia?

Régóta foglalkoztatja a kutatókat, hogy a mesterséges intelligencia miként reagálhat az emberiség fenyegetésére, és hogy bekövetkezik-e az, amit „öntudatra ébredésnek” hívunk a hétköznapi nyelvezetben.

Annak lehetőségét ugyanis korántsem nem zárhatjuk ki, hogy egyszer majd érző lényként viselkedik majd az MI. Illetve ekkor már az is nagyon fontos kérdés lesz, hogy ennek milyen következményei lesznek, akár pozitív, akár negatív értelemben – fejtegették a Live Science hasábjain. Soron kívül Andrei Mangra zokogva adott interjút, késsel kergették a támadói a lakásában

A szakértők többségének véleménye szerint akár már a következő néhány évben felülmúlhatják az emberi gondolkodást a mesterséges intelligencia legfejlettebb oldalhajtásai, ezek azonban óriási kockázattal járhatnak, főleg, ha nem értjük meg teljesen a működését, és a „gondolatait”.

Nell Watson kutató, az Institute of Electrical and Electronics Engineers tagja szerint a technológia fejlődését az emberiség érdekeit szem előtt tartva, szigorú keretek között kell tartani, a „Taming the Machine” című könyvében pedig többek között azt is vizsgálja, hogy miként lehet felelősségteljesen alkalmazni a mesterséges intelligencia hatalmas erejét.

Watson kitér arra, hogy milyen módon állapíthatjuk meg azt, hogy egy gépnek vannak-e „érzései”, és megismerhetjük többek között a Sydney nevű chatbot nyugtalanító történetét is, amely ellenséges és manipulatív irányba terelte a beszélgetéseket, időnként pedig agresszív hangnemet ütött meg a felhasználókkal szemben.

Egyúttal arra is választ keres, hogy az öntudatosságot vizsgáló Turing-tesztet mivel lehetne kiváltani, ugyanis az ma már nem képes egyértelműen meghatározni, hogy az összetett algoritmusok a tudatosság mely fokán állnak.