"Bob: i can i i everything else . . . . . . . . . . . . . . 
Alice: balls have zero to me to me to me to me to me to me to me to me to 
Bob: you i everything else . . . . . . . . . . . . . . 
Alice: balls have a ball to me to me to me to me to me to me to me 
Bob: i i can i i i everything else . . . . . . . . . . . . . . 
Alice: balls have a ball to me to me to me to me to me to me to me 
Bob: i . . . . . . . . . . . . . . . . . . . 
Alice: balls have zero to me to me to me to me to me to me to me to me to 
Bob: you i i i i i everything else . . . . . . . . . . . . . . 
Alice: balls have 0 to me to me to me to me to me to me to me to me to 
Bob: you i i i everything else . . . . . . . . . . . . . . 
Alice: balls have zero to me to me to me to me to me to me to me to me to"

La notizia - divenuta virale su web e social, al netto di sensazionalismi e al di qua di più o meno accentuate coloriture giornalistiche - è interessante.
Lo sviluppo autonomo da parte delle stesse tecnologie generate dall'uomo di comunicazioni dotate di un codice linguistico non decodificabile e incomprensibile, ad oggi, all'uomo stesso pone  e ripropone interrogativi sull'AI, la robotica e, più in generale,  sullo sviluppo e l'evoluzione del linguaggio. Sarebbe affascinante che si riuscisse a comprendere e decodificare quel che si son detti, se effettivamente si son detti qualcosa o, se curiosamente, si manifestassero il limiti di una intraducibilità radicale e una di una inacessibilità non risolvibili.

Però la notizia è interessante dal punto di vista filosofico per due motivi:
1) perchè l'uomo è così ossessionato da volersi continuamente auto-emulare: voglio dire perchè vorrei io fare IA sempre più simili nel loro comportamento all'uomo? Perchè in sostanza abbiamo l'ossessione di creare oggetti (che magari diventeranno anche soggetti coscienti) "ad immagine e somiglianza"   ? Cioè oltre a sentirmi la vocina di Ok-Google o scambiarmi le battute con Siri adesso voglio anche che "socializzano" tra loro, che formino una società loro, che facciano la loro filosofia, che vadano a far la spesa per se stessi, che apprezzino i piaceri della vita. Ma ... perchè?
2) Ora se noi vogliamo creare della vita intelligente non ci basta renderli intelligenti. Devono anche riconoscersi come specie, interloquire tra di loro, riconoscersi in una comunità ecc. Ossia devono diventare socievoli. Quindi sì secondo me cominciare a far parlare tra di loro e lasciarli autonomamente sviluppare un linguaggio tutto loro, sviluppare convenzioni sociali ecc. Mi pare che sia l'unico modo per renderli autonomi e al contempo "intelligenti". Sul fatto del linguaggio che diventa incomprensibile (sinceramente il "dialogo" tra Alice e Bob mi pare abbastanza "random" e mi sembra che "qualcosa sia andato storto" più che un tentativo di creare un nuovo linguaggio) credo che da una specie "intelligente" ci sia da aspettarselo. D'altronde con tutte le nostre gerarchie e controlli dati dalla nostra società nella storia abbiamo che il latino si è "volgarizzato" in un sacco di lingue, il sassone idem, il greco idem... e l'italiano tra alcuni giovani mi sembra anch'esso un'altra lingua, per esempio "Oh, ma prenditela scialla, zio!" oppure "oh fra mi stai facendo andare a male" ("andare a male"=non mi fai capire più niente)    . Se queste variazioni avvengono con tutto il controllo politico-sociale nella società umana figuriamo robot intelligenti lasciati liberi  


Per la vera storia di Alice e Bob: http://www.webnews.it/2017/08/02/facebook-la-vera-storia-delle-ia-bob-e-alice/

-INIZIO parte di commento satirico e off-topic del post che non farà ridere nessuno
I sensazionalismi ahimé sono dovuti ad un misto tra delirio di persecuzione (le IA ci vogliono far del male, i social media ci vogliono segretamente comandare...), "apofenia" (ossia la tendenza che l'uomo ha di riconoscere strutture - che in realtà a dosi "giuste" aiuta la creatività ma quando si cominciano a vedere dove non esistono comincia ad essere un problema), "giornalismo" (ossia tendenza anche incoscia a scrivere per far colpo) tutto ovviamente "subclinico" e "normale"   ... poi dai se non c'è nessuno che ci complotta contro che senso ha la nostra vita     ?  
-Finalmente è finita

Che due intelligenze artificiali chattino è una scena curiosa, i problemi nascono se una delle due chiede all'altra di uscire fuori per prendere qualcosa assieme... "fuori" da dove? e cosa prendono assieme, una birra alla spina per ricaricarsi (battutaccia )?

Scherzi a parte, l'inintelliggibilità dei "cyber-discorsi artificiali" credo sia iniziata da un pezzo, almeno da quando per decifrare ciò che "dice" un computer, abbiamo bisogno di un altro computer "connivente" da "infiltrare" nei loro "discorsi" (scambi di dati e input). Le loro possibilità di calcolo ci hanno già seminato da tempo sulla strada del controllo (se consideriamo quello che sappiamo calcolare solo con carta e penna, ovvero senza il loro aiuto...).

Se Bob e Alice riuscissero a "parlarsi" e "capirsi" (metaforicamente, e non è comunque scontato) resterebbero probabilmente discorsi confinati ai loro programmi/mansioni di partenza... hanno "intelligenza" (ormai così si chiama), ma non credo abbiano (per ora) volontà e aspirazioni, istinto di auto-conservazione e avidità (necessarie per desiderare la conquista del mondo umano  ).
Se, parlando una lingua, o meglio, un linguaggio che non conosciamo, riescono a svolgere la loro funzione con più efficienza, non è il caso di demonizzarli e di sentirci minacciati (d'altronde anche il pc da cui sto scrivendo, nell'intimo del suo processore, usa codifiche e linguaggi che non conosco affatto, ma dubito stia architettando di chiamare in aiuto altri pc per schiavizzarmi e costringermi a lavorare solo per pagargli la bolletta della luce... in fondo, la pago già! ).


P.s.

Citazione di: Lou il 03 Agosto 2017, 11:11:21 AM
Sarebbe affascinante che si riuscisse a comprendere e decodificare quel che si son detti, se effettivamente si son detti qualcosa o, se curiosamente, si manifestassero il limiti di una intraducibilità radicale e una di una inacessibilità non risolvibili

Come in certi discorsi fra uomo e donna? Possiamo provarla coma chiave di lettura (avviso: la parodia può contenere stereotipi... e forse anche olio di palma  ):

Bob: i can i i everything else . . . . . . . . . . . . . .
("Io posso! io, tutto il resto...") l'uomo millanta capacità e potenzialità epiche, degne di Prometeo, pur di fare colpo

Alice: balls have zero to me to me to me to me to me to me to me to me to
("per me non hai p@lle, secondo me bla bla bla") la donna sminuisce l'ardore di Bob, provocandolo e mettendone in discussione il virile coraggio, rivelando inoltre un sottile abuso di parole e ripetizioni

Bob: you i everything else . . . . . . . . . . . . . .
("tu e io, tutto il resto...") Bob intuisce che forse, per "domarla", non deve tentare la strada "testosteronica", e prova allora ad essere poetico, del tipo "solo tu ed io, tutto il resto non conta..."

Alice: balls have a ball to me to me to me to me to me to me to me
("balle! Abbi almeno una p@lla! Per me, bla bla bla...") Alice non si lascia incantare dalla sviolinata e, sprezzante, lo invita ad essere uomo almeno "a metà"; riconferma inoltre una propensione per ripetizioni logorroiche

Bob: i i can i i i everything else . . . . . . . . . . . . . .
("io posso, io, tutto il resto...") Bob, punto nel vivo, cerca di tenere alto l'orgoglio e, non senza qualche balbettio, riprende ad alimentare grandi aspettative

Alice: balls have a ball to me to me to me to me to me to me to me
("balle! Abbi almeno una p@lla! Per me, bla bla bla...") Alice ripete l'ultima frase già detta prima, snobbando i buoni propositi esposti da Bob; lei vuole di più di semplici promesse...

Bob: i . . . . . . . . . . . . . . . . . . .
("io...") Bob non sa più cosa dire, la sua replica è stata ignorata e ora è senza parole...la conversazione è in stallo

Alice: balls have zero to me to me to me to me to me to me to me to me to
("non hai p@lle, secondo me bla bla bla") Alice cavalca l'impasse imbarazzata di Bob per ribadire la sua provocazione, come a dire "lo vedi? Avevo ragione io!"

Bob: you i i i i i everything else . . . . . . . . . . . . . .
("tu, io... io... tutto il resto...") Bob è alle corde, prova debolmente a riprendere un tono un po' più romantico, per tentare di convincerla che conta solo lei...

Alice: balls have 0 to me to me to me to me to me to me to me to me to
("hai zero p@lle! Secondo me bla bla bla") Alice lo tiene all'angolo, sottolineando persino numericamente l'assenza di attributi... potrebbe essere il colpo del k.o.

Bob: you i i i everything else . . . . . . . . . . . . . .
("tu, io... io... tutto il resto...") Bob ormai si è "incantato", l'imbarazzo lo ha mandato in tilt e ripete stordito l'ultimo fallimentare tentativo di conciliazione...

Alice: balls have zero to me to me to me to me to me to me to me to me to
("non hai p@lle, secondo me bla bla bla") Alice non lo ascolta nemmeno più, rinfaccia ancora una volta la consueta carenza di "sostanza", ma ormai è come se parlasse da sola, è "in loop"...

(ad libitum )

Olio di palma allo stato puro. Ahahahahaha, geniale l'ermenuetica, tranne per l'ottimistico   "oramai" finale. Ci ritorno, con più tempo.

Bellissima Phil    sinceramente mi ero anche sforzato di fare un'esegesi anche io ma non ci sono riuscito. La cosa che è "andata storta" allora sembra proprio che sia il fatto che i due "amanti" erano un po' sgrammaticati  

Citazione da: Lou - 03 Agosto 2017, 11:11:21 am

CitazioneSarebbe affascinante che si riuscisse a comprendere e decodificare quel che si son detti, se effettivamente si son detti qualcosa o, se curiosamente, si manifestassero il limiti di una intraducibilità radicale e una di una inacessibilità non risolvibili

ROMA - "Una copertura irresponsabile e basata sull'inseguire facili click". Dhruv Batra lo scrive a chiare lettere nella sua pagina di Facebook dopo la tempesta mediatica che lo ha investito. 

Professore alla Georgia Tech e ricercatore al Facebook AI Research (Fair), dove si sperimentano nuove forme di intelligenza artificiale, commenta amaro gli articoli che hanno parlato di quanto successo nel suo laboratorio. 
Batra e il suo team stavano facendo dialogare due intelligenze artificiali allenate alla negoziazione con una serie di obbiettivi da raggiungere. Ma le cose non sono andate come sperato.

Quando si parla di negoziazioni, si intendono tutte quelle situazioni nelle quali fra due o più persone si istaura un dialogo per decidere qualcosa. "Dallo scegliere quale programma tv guardare al convincere i propri figli a mangiare la verdura, fino all'ottenere un prezzo migliore da un venditore", si legge nella relazione del team di Facebook. 

Ogni "agente" artificiale ha dei valori, quanto tiene ad un certo oggetto ad esempio, e negozia con l'altro per raggiungere un obbiettivo. Si tratta di un esercizio linguistico e di logica.

I due "agenti" di Batra hanno però iniziato a mutare l'inglese per raggiungere prima l'obbiettivo. A leggere il dialogo delle due Ai non sembra però, ad un occhio profano, che quel linguaggio fosse poi così evoluto. Incomprensibile di certo, ma magari anche inutile. 

Bob: i can i i everything else . . . . . . . . . . . . . . 
Alice: balls have zero to me to me to me to me to me to me to me to me to 
Bob: you i everything else . . . . . . . . . . . . . . 
Alice: balls have a ball to me to me to me to me to me to me to me 
Bob: i i can i i i everything else . . . . . . . . . . . . . . 
Alice: balls have a ball to me to me to me to me to me to me to me 
Bob: i . . . . . . . . . . . . . . . . . . . 
Alice: balls have zero to me to me to me to me to me to me to me to me to 
Bob: you i i i i i everything else . . . . . . . . . . . . . . 
Alice: balls have 0 to me to me to me to me to me to me to me to me to  
Bob: you i i i everything else . . . . . . . . . . . . . . 



 
Gli addetti ai lavori dicono che quando verrà potenziato il computer quantistico (del quale è stato testato positivamente il primo limitatissimo prototipo)  non vi sarà crittografia che potrà resistere alla sua enorme potenza di calcolo.

Così (forse) scopriremo in futuro se l'incomprensibile (e inutile..?) dialogo tra  i due "agenti" (A.I.) di Batra racchiudesse un senso e magari indicò una direzione che altri (... statene certi) invece di chiuder l'esperimento...

Uno dei problemi in ambito soprattutto militare è che le decisioni vengono prese senza indugio e la valutazione di quelli che potremmo definire cinicamente costi-benefici sempre più vien sottratta alle valutazioni umane... come quelle di un generale del passato davanti alla mappa geografica.

Qui si capisce bene come l'argomento, la "negoziazione", potrebbe riferirsi a quante "palle" restano a causa di un'azione...
 
La mia capacità enigmistica è ben poca cosa, in grado al più di produrre un indovinello per il valente Phil che vi si è dedicato e che ringrazio nuovamente.

Colà (topic :Varie) toglievo le lettere e lasciavo la punteggiatura... qui per la serie "suggestioni e passatempi d'estate" voglio affiancare all'ottima pièce umoristica di Phil le seguenti riflessioni.

Nel testo del dialogo si nota che solo Bob usa i puntini (sempre 14 e una volta 19) e il pronome "I" (in numero variabile) che potreste considerare "1", mentre Alice parla di "palle", normalmente tonde, no?... come degli zero...1 e 0...

Alice dopo l'intervento di Bob dice che tra le palle ora ne dispone di una, che vien meno al solo dire "I" del compagno . 
Così ritorna a "0" ma ora espresso in simbolo e successivamente ancora in testo...

Che vi siano (almeno) due livelli, numerico e testuale..?   

Sapete bene che basta una lettera diversa per avere una password differente, lo stesso per i simboli di punteggiatura...
 

Suggestioni...

J4Y  

Citazione di: Jean il 04 Agosto 2017, 18:53:18 PMGli addetti ai lavori dicono che quando verrà potenziato il computer quantistico (del quale è stato testato positivamente il primo limitatissimo prototipo)  non vi sarà crittografia che potrà resistere alla sua enorme potenza di calcolo.

I computer che chattano pongono di gran lunga meno interrogativi rispetto a questa ipotesi. Posto che già ora la crittografia non salva alcunchè, è solo una questione di risorse impegnate, che fine farà la privacy? Sia a livello personale che governativo.. Ben prima del primo computer quantistico le elezioni americane sono state deragliate dalla Russia, certo è stato necessario un discreto sforzo umano (si parla di 300hacker circa su turni 12\24, secondo gli standard di intelligence americana), ma quando per ottenere lo stesso risultato basterà premere un tasto?

Citazione di: InVerno il 05 Agosto 2017, 10:42:33 AM
Posto che già ora la crittografia non salva alcunchè, è solo una questione di risorse impegnate, che fine farà la privacy? Sia a livello personale che governativo.. Ben prima del primo computer quantistico le elezioni americane sono state deragliate dalla Russia, certo è stato necessario un discreto sforzo umano (si parla di 300hacker circa su turni 12\24, secondo gli standard di intelligence americana), ma quando per ottenere lo stesso risultato basterà premere un tasto?

Credo sia improbabile che si arriverà a farlo semplicemente premendo un tasto, salvo non ci sia un vantaggio tecnologico drasticamente favorevole per chi ha quel tasto; tuttavia se c'è tale vantaggio, significa che plausibilmente l'avversario non è di quelli che fanno la differenza...

In fondo, è l'eterna storia di "guardia e ladri": chi ha le armi più potenti e una buona strategia, inevitabilmente vince; ma se le guardie e i ladri hanno armi piuttosto simili (ovvero sono i migliori del settore, il che spiega la rivalità e l'elevata posta in gioco), allora per essere minimamente efficaci occorre tanto tempo (turni di 24 ore, per settimane o mesi?) e un corposo dispiegamento di risorse (300 hacker) per condizionare magari (ipotizzo) il 10% del risultato finale... se si parla di competizione tecnologica, fra i titani mondiali non credo si potrà decidere tutto solo premendo un bottone; se invece parliamo di competizione nucleare allora il discorso cambia   

Questo è valido se parliamo di "macrosistemi sociogeopolitici", se invece parliamo di casi singoli, ecco che può tranquillamente capitare che un virus antiquato e "debole" possa costringermi a buttar via il computer, poiché il "vantaggio tecnologico" fra il virus e il mio patetico pseudo-antivirus non fa nemmeno iniziare il gioco di "guardia e ladri"... oppure, come accennavi, la mia presunta privacy è inviolabile per il mio vicino di casa, ma per un hacker malizioso o assoldato da qualcuno (che mi spia dalla "rete" in cui sono caduto nella navigazione ), non ho segreti e addirittura mi conosce meglio di quanto io stesso creda di conoscermi (e non è certo un emissario dell'oracolo di Delfi  ).

Citazione di: Jean il 04 Agosto 2017, 18:53:18 PM
Citazione da: Lou - 03 Agosto 2017, 11:11:21 am

CitazioneSarebbe affascinante che si riuscisse a comprendere e decodificare quel che si son detti, se effettivamente si son detti qualcosa o, se curiosamente, si manifestassero il limiti di una intraducibilità radicale e una di una inacessibilità non risolvibili

ROMA - "Una copertura irresponsabile e basata sull'inseguire facili click". Dhruv Batra lo scrive a chiare lettere nella sua pagina di Facebook dopo la tempesta mediatica che lo ha investito.

Professore alla Georgia Tech e ricercatore al Facebook AI Research (Fair), dove si sperimentano nuove forme di intelligenza artificiale, commenta amaro gli articoli che hanno parlato di quanto successo nel suo laboratorio.
Batra e il suo team stavano facendo dialogare due intelligenze artificiali allenate alla negoziazione con una serie di obbiettivi da raggiungere. Ma le cose non sono andate come sperato.

Quando si parla di negoziazioni, si intendono tutte quelle situazioni nelle quali fra due o più persone si istaura un dialogo per decidere qualcosa. "Dallo scegliere quale programma tv guardare al convincere i propri figli a mangiare la verdura, fino all'ottenere un prezzo migliore da un venditore", si legge nella relazione del team di Facebook.

Ogni "agente" artificiale ha dei valori, quanto tiene ad un certo oggetto ad esempio, e negozia con l'altro per raggiungere un obbiettivo. Si tratta di un esercizio linguistico e di logica.

I due "agenti" di Batra hanno però iniziato a mutare l'inglese per raggiungere prima l'obbiettivo. A leggere il dialogo delle due Ai non sembra però, ad un occhio profano, che quel linguaggio fosse poi così evoluto. Incomprensibile di certo, ma magari anche inutile.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to 
Bob: you i i i everything else . . . . . . . . . . . . . .




Gli addetti ai lavori dicono che quando verrà potenziato il computer quantistico (del quale è stato testato positivamente il primo limitatissimo prototipo)  non vi sarà crittografia che potrà resistere alla sua enorme potenza di calcolo.

Così (forse) scopriremo in futuro se l'incomprensibile (e inutile..?) dialogo tra  i due "agenti" (A.I.) di Batra racchiudesse un senso e magari indicò una direzione che altri (... statene certi) invece di chiuder l'esperimento...

Uno dei problemi in ambito soprattutto militare è che le decisioni vengono prese senza indugio e la valutazione di quelli che potremmo definire cinicamente costi-benefici sempre più vien sottratta alle valutazioni umane... come quelle di un generale del passato davanti alla mappa geografica.

Qui si capisce bene come l'argomento, la "negoziazione", potrebbe riferirsi a quante "palle" restano a causa di un'azione...

La mia capacità enigmistica è ben poca cosa, in grado al più di produrre un indovinello per il valente Phil che vi si è dedicato e che ringrazio nuovamente.

Colà (topic :Varie) toglievo le lettere e lasciavo la punteggiatura... qui per la serie "suggestioni e passatempi d'estate" voglio affiancare all'ottima pièce umoristica di Phil le seguenti riflessioni.

Nel testo del dialogo si nota che solo Bob usa i puntini (sempre 14 e una volta 19) e il pronome "I" (in numero variabile) che potreste considerare "1", mentre Alice parla di "palle", normalmente tonde, no?... come degli zero...1 e 0...

Alice dopo l'intervento di Bob dice che tra le palle ora ne dispone di una, che vien meno al solo dire "I" del compagno .
Così ritorna a "0" ma ora espresso in simbolo e successivamente ancora in testo...

Che vi siano (almeno) due livelli, numerico e testuale..?   

Sapete bene che basta una lettera diversa per avere una password differente, lo stesso per i simboli di punteggiatura...


Suggestioni...

J4Y 

"Ma Dhruv Batra mette le mani avanti: "Per quanto l'idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto molto noto e sul quale c'è una corposa letteratura da decenni". E spiega: "In poche parole, gli agenti in ambienti dove si deve risolvere un compito, spesso troveranno modi non intuitivi..."
Cioè - sul grassettato (mio)?

Da quello che ho letto in giro, Bob e Alice si stavano esercitando ad imparare come scambiarsi dei beni (palle, cappelli, libri...) e non era stata impostata la lingua inglese come limite coercitivo della comunicazione, per cui i due programmi hanno "spontaneamente"(!) creato delle "forme contrattate" di linguaggio, delle abbreviazioni... mi sembra però insolito, o meglio, "stranamente poco matematico" per un programma di calcolo, dover ripetere "a me" tante volte quanti sono gli oggetti che si vuole ricevere, oppure "io" per ogni oggetto che si può dare (se queste erano le abbreviazioni ideate dai programmi...). Che non abbiano ancora imparato a contare?
Se è così, la strada potrebbe essere ancora lunga...

Sui "modi non intuitivi" di comunicazione, Batra ha precisato che non ci sono (ancora) parlanti bilingue (lingue umane e linguaggi di intelligenze artificiali), quindi il modo in cui i programmi creano i loro linguaggi sarà probabilmente campo di studi futuribile (d'altronde ciò che è intuitivo per noi può non esserlo per un calcolatore, e viceversa...).

Sì Phil, appunto!
Per un software cos'è intuitivo?
E secondo, sono dotati di intuitività Alice e Bob?
L'intuizione è una proprietà programmabile?
Il punto è che hanno sviluppato e dato vita spontaneamente e, da un certo punto, autonomamente, aggiungo io ( a causa di errore umano o meno è secondario rispetto a ciò che mi interessa discutere in questa sede, seguendo questa linea è un baco e finita lì che stanno abbastanza inutili se si rendono incomprensibili a noi,  lo si corregge, è mancata una una istruzione e questi hai fatto di loro, in soldoni, nè mi interessano paure, scenari fantaapocalittici o robe del genere ) un insieme di simboli e di combinazioni, cioè un linguaggio proprio per comunicare tra loro esente da modalità intuitive, ma come si può sviluppare un linguaggio esente dal modo dell'intuizione? È possibile? Ovviamente la mia perplessità nasce dal fatto che ritengo non sviluppabile un linguaggio, nemmeno quelli detti artificiali, senza una intuitività alla base. Non avrebbero alcun senso, nè significato - immagino.

Citazione di: Lou il 06 Agosto 2017, 17:56:14 PMSì Phil, appunto! Per un software cos'è intuitivo? E secondo, sono dotati di intuitività Alice e Bob? L'intuizione è una proprietà programmabile?

Anche se mi pare che ci stiamo vedendo troppo in questo caso particolare cosa distingue la vita sintetica da quella naturale? Cosa distingue ad esempio l'I.A. (intelligenza articificiale) dagli animali? Gli animali hanno intuito? Noi abbiamo intuito? Ciò che ci sembra vivo è vivo? Ciò che ci sembra non vivo (tipo l'I.A.) è davvero privo di vita? Perchè noi vogliamo così tanto emulare noi stessi e creare programmi e robot sempre più simili a noi?

Citazione di: Lou il 06 Agosto 2017, 01:37:28 AM

Citazione di: Jean il 04 Agosto 2017, 18:53:18 PM
Citazione da: Lou - 03 Agosto 2017, 11:11:21 am

CitazioneSarebbe affascinante che si riuscisse a comprendere e decodificare quel che si son detti, se effettivamente si son detti qualcosa o, se curiosamente, si manifestassero il limiti di una intraducibilità radicale e una di una inacessibilità non risolvibili

ROMA - "Una copertura irresponsabile e basata sull'inseguire facili click". Dhruv Batra lo scrive a chiare lettere nella sua pagina di Facebook dopo la tempesta mediatica che lo ha investito.

Professore alla Georgia Tech e ricercatore al Facebook AI Research (Fair), dove si sperimentano nuove forme di intelligenza artificiale, commenta amaro gli articoli che hanno parlato di quanto successo nel suo laboratorio.
Batra e il suo team stavano facendo dialogare due intelligenze artificiali allenate alla negoziazione con una serie di obbiettivi da raggiungere. Ma le cose non sono andate come sperato.

Quando si parla di negoziazioni, si intendono tutte quelle situazioni nelle quali fra due o più persone si istaura un dialogo per decidere qualcosa. "Dallo scegliere quale programma tv guardare al convincere i propri figli a mangiare la verdura, fino all'ottenere un prezzo migliore da un venditore", si legge nella relazione del team di Facebook.

Ogni "agente" artificiale ha dei valori, quanto tiene ad un certo oggetto ad esempio, e negozia con l'altro per raggiungere un obbiettivo. Si tratta di un esercizio linguistico e di logica.

I due "agenti" di Batra hanno però iniziato a mutare l'inglese per raggiungere prima l'obbiettivo. A leggere il dialogo delle due Ai non sembra però, ad un occhio profano, che quel linguaggio fosse poi così evoluto. Incomprensibile di certo, ma magari anche inutile.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to  
Bob: you i i i everything else . . . . . . . . . . . . . .




Gli addetti ai lavori dicono che quando verrà potenziato il computer quantistico (del quale è stato testato positivamente il primo limitatissimo prototipo)  non vi sarà crittografia che potrà resistere alla sua enorme potenza di calcolo.

Così (forse) scopriremo in futuro se l'incomprensibile (e inutile..?) dialogo tra  i due "agenti" (A.I.) di Batra racchiudesse un senso e magari indicò una direzione che altri (... statene certi) invece di chiuder l'esperimento...

Uno dei problemi in ambito soprattutto militare è che le decisioni vengono prese senza indugio e la valutazione di quelli che potremmo definire cinicamente costi-benefici sempre più vien sottratta alle valutazioni umane... come quelle di un generale del passato davanti alla mappa geografica.

Qui si capisce bene come l'argomento, la "negoziazione", potrebbe riferirsi a quante "palle" restano a causa di un'azione...

La mia capacità enigmistica è ben poca cosa, in grado al più di produrre un indovinello per il valente Phil che vi si è dedicato e che ringrazio nuovamente.

Colà (topic :Varie) toglievo le lettere e lasciavo la punteggiatura... qui per la serie "suggestioni e passatempi d'estate" voglio affiancare all'ottima pièce umoristica di Phil le seguenti riflessioni.

Nel testo del dialogo si nota che solo Bob usa i puntini (sempre 14 e una volta 19) e il pronome "I" (in numero variabile) che potreste considerare "1", mentre Alice parla di "palle", normalmente tonde, no?... come degli zero...1 e 0...

Alice dopo l'intervento di Bob dice che tra le palle ora ne dispone di una, che vien meno al solo dire "I" del compagno .
Così ritorna a "0" ma ora espresso in simbolo e successivamente ancora in testo...

Che vi siano (almeno) due livelli, numerico e testuale..?  

Sapete bene che basta una lettera diversa per avere una password differente, lo stesso per i simboli di punteggiatura...


Suggestioni...

J4Y  

"Ma Dhruv Batra mette le mani avanti: "Per quanto l'idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto molto noto e sul quale c'è una corposa letteratura da decenni". E spiega: "In poche parole, gli agenti in ambienti dove si deve risolvere un compito, spesso troveranno modi non intuitivi..."
Cioè - sul grassettato (mio)?

Quale che sia l`interpretazione dell'esperimento di cui si parla, per nulla, poco o abbastanza significativo, è indubbio che abbia avuto una certa risonanza, segno che l`interesse per tali problematiche è alto.

L'interesse degli addetti ai lavori, quello dei sovvenzionatori di tali ricerche per le ricadute economiche... e via sino a finir a quello delle persone comuni, in differenti gradi capaci di collocare i risultati di tali ricerche nell`alveo (scientifico) che li possa adeguatamente trattare.

La mia sensazione (che mi par in una certa misura sia anche quella di Lou) è che, pur con tutti i distinguo, ridimensionamenti e annamoce piano con la fantasia... tuttavia "qualcosa" stavolta sia accaduto.

Il Prof. Batra afferma che tali eventi son quasi pane quotidiano per gli sperimentatori (che lavorano sulle A.I.) il che incuriosisce ancor più, infatti come mai in questa occasione è sortita una tal risonanza da quella che a parer suo sembrerebbe carta straccia gettata nel cestino (esperimento non conforme)?

I soliti giornalisti a caccia di "materiale" che frugano nei rifiuti... giochi di potere/posizione all'interno dell'ambiente scientifico...  o, come spesso vien detto, un gomblotto..?

Mah...  come per la maggior parte degli eventi sarà difficile risalir più di tanto la notizia che per x motivi è divenuta di dominio pubblico.
 
Ben hai fatto, Lou, ad evidenziare quel "modi non intuitivi" (non l'avevo letto) ed esprimere le tue perplessità (che condivido) sulla (almeno) difficoltà a formulare linguaggi qual che siano (artificiali o non-artificiali) senza, come dici,  l'intuitività alla base... evidenziando con ciò il paradosso nell'affermazione del Prof. Batra... se le A.I. si evolvono  unicamente nel solco permesso dalla "matematica" dei loro algoritmi se ne dovrebbero riscontrare e risalire le tracce... cosa che Bob e Alice si son "dimenticati" di evidenziare (con ciò giocandosi il loro grado di libertà, venendo privati della corrente e con quella terminando la loro vita "artificiale").

Se ci chiediamo da dove nasca il tutto... beh, dagli algoritmi, no? 

All'inizio una semplice procedura che tenta di risolvere un determinato problema applicando un certo numero di passi elementari.
 
Ma poi... come diceva compiaciuto Snoopy scrittore seduto sopra la sua casetta con le mani sulla macchina da scrivere... l`intreccio si infittisce..!! così che non è detto che le sue proprietà fondamentali debbano venir rispettate, ad esempio il "determinismo" nel solo uso della lingua inglese nel caso di Batra è stato "dimenticato" ... così che non ha portato ad un risultato univoco (effettività), nè si è concluso entro un certo periodo di tempo (terminazione)...

Sanno sempre i ricercatori quello che stanno facendo? 
O per ottener risultati (... senza i quali il posto...) si mescolano elementi e composti pensando di esser in grado quando si ottenga un buon prodotto di ricostruire le ricetta?

Cara Lou, hai aperto un topic davvero interessante...  
 

Un cordiale saluto
Jean
    
 
  
 

Per Jean e Lou: cos'è l'"intuito" (o il "non intuitivo")?
Riteniamo di averlo noi visto che ci sembra strano che Alice e Bob lo abbiano.

Ma gli animali hanno quei modi di pensare? E noi? Quand'è che possiamo stabilire che l'I.A. sia davvero simile a noi?

(spero che le mie domande abbiano un minimo senso - se non lo hanno sentitevi liberi di ignorarle ahahah)

Citazione di: Phil il 05 Agosto 2017, 15:56:50 PM

Citazione di: InVerno il 05 Agosto 2017, 10:42:33 AM
Posto che già ora la crittografia non salva alcunchè, è solo una questione di risorse impegnate, che fine farà la privacy? Sia a livello personale che governativo.. Ben prima del primo computer quantistico le elezioni americane sono state deragliate dalla Russia, certo è stato necessario un discreto sforzo umano (si parla di 300hacker circa su turni 12\24, secondo gli standard di intelligence americana), ma quando per ottenere lo stesso risultato basterà premere un tasto?

Credo sia improbabile che si arriverà a farlo semplicemente premendo un tasto, salvo non ci sia un vantaggio tecnologico drasticamente favorevole per chi ha quel tasto; tuttavia se c'è tale vantaggio, significa che plausibilmente l'avversario non è di quelli che fanno la differenza...

In fondo, è l'eterna storia di "guardia e ladri": chi ha le armi più potenti e una buona strategia, inevitabilmente vince; ma se le guardie e i ladri hanno armi piuttosto simili (ovvero sono i migliori del settore, il che spiega la rivalità e l'elevata posta in gioco), allora per essere minimamente efficaci occorre tanto tempo (turni di 24 ore, per settimane o mesi?) e un corposo dispiegamento di risorse (300 hacker) per condizionare magari (ipotizzo) il 10% del risultato finale... se si parla di competizione tecnologica, fra i titani mondiali non credo si potrà decidere tutto solo premendo un bottone; se invece parliamo di competizione nucleare allora il discorso cambia    

Questo è valido se parliamo di "macrosistemi sociogeopolitici", se invece parliamo di casi singoli, ecco che può tranquillamente capitare che un virus antiquato e "debole" possa costringermi a buttar via il computer, poiché il "vantaggio tecnologico" fra il virus e il mio patetico pseudo-antivirus non fa nemmeno iniziare il gioco di "guardia e ladri"... oppure, come accennavi, la mia presunta privacy è inviolabile per il mio vicino di casa, ma per un hacker malizioso o assoldato da qualcuno (che mi spia dalla "rete" in cui sono caduto nella navigazione ), non ho segreti e addirittura mi conosce meglio di quanto io stesso creda di conoscermi (e non è certo un emissario dell'oracolo di Delfi   ).

Hai ragione, ma renditi semplicemente conto che anche se Russia e USA (e forse Cina e Germania) possono abbozzare un testa a testa, a  tutte le altre nazioni non rimane che la full-disclosure di qualsiasi dato sensibile, ovvero l'impossibilità teorica e tecnica di progredire in maniera "non controllata" dalle teste di serie. E' già cosi in un certo senso, nucleare, ma questa sarebbe la pietra tombale sul famoso "in via di sviluppo"