Silvia
00martedì 21 novembre 2023 11:54
(L'immagine l'ho creata io con l'intelligenza artificiale!) 🤣
Non avevo mai pensato a questa cosa! Se adesso l'intelligenza artificiale è stata addestrata da fonti create da umani, che cosa succederà quando l'AI studierà testi scritti da sé stessa?
Lo definiscono come un processo degenerativo in cui i contenuti generati finiscono per inquinare i dataset delle prossime generazioni di modelli, che, addestrati con dati inquinati, avranno una percezione sbagliata della realtà . In sostanza, se le informazioni a cui queste AI attingono sono quelli prodotte dalle stesse AI, potrebbe verificarsi un processo di degenerazione dei risultati.
articolo originale
rufusexc
00martedì 21 novembre 2023 12:28
thors
00martedì 21 novembre 2023 13:54
Sono un po' scettico su questo problema. Se le IA danno un peso diverso alle informazioni in base alla sorgente da cui provengono, allora per generare una "percezione sbagliata della realtà " è necessario che gli umani utilizzino testi di bassa qualità generati dalla IA in contesti dove l'accuratezza delle informazioni è un requisito essenziale. Sicché la colpa sarebbe della decelebrazione umana, piuttosto che delle IA.
La vedrei un po' diversamente sulla capacità di esprimersi delle IA, perché immagino acquisiscano informazioni lessicali, grammaticali e di costruzione delle frasi da un'ampia gamma di fonti, non necessariamente autorevoli. Se quindi la persona media utilizzasse estensivamente le IA per generare contenuti da pubblicare in rete, allora si entrerebbe in un circolo vizioso.
In sostanza credo dipenda tutto da come viene costruita la base dati, piuttosto che dalle IA.
Silvia
00martedì 21 novembre 2023 13:59
Sì ma da quanto ho capito io con Chat GPT, questa non è ancora in grado di andare su internet per conto suo... quindi non c'è il problema che possa leggere e studiare cose scritte con l'AI.
Immagino però che in un futuro chat GPT potrà accedere ad internet e allora cosa si fa?
thors
10martedì 21 novembre 2023 14:24
Farà le stesse cose che potrà fare un essere umano. Se noi saremo in grado di distinguere la porcheria dalle informazioni valide, allora lo potrà fare anche l'IA. Se per noi invece sarà impossibile, allora meritiamo la rovina.
rufusexc
00martedì 21 novembre 2023 16:05
Ovviamente, è già difficile capire ciò che è vero da ciò che non lo è. Se pensate ai cosiddetti "complottisti" che credono a una loro personale visione del mondo. La IA, così come i motori di ricerca, semplimente basa tutto su ciò che trova. Se abbiamo 100 fonti che dicono "nero" e 50 che dicono "bianco", a quale darebbe più credito?
thors
00martedì 21 novembre 2023 16:35
Ho già risposto nella mio primo messaggio. Potrei approfondire la cosa proponendo un algoritmo di decisione, ma preferisco lasciare a GPT l'onere di pensarci sopra:
La risposta a questa domanda può variare a seconda del contesto e degli obiettivi dell'IA o del motore di ricerca in questione. Tuttavia, di solito, i motori di ricerca e le intelligenze artificiali cercano di fornire risultati basati sulla rilevanza e sull'affidabilità delle fonti.
Nel caso specifico menzionato, se abbiamo 100 fonti che dicono "nero" e 50 che dicono "bianco", un motore di ricerca o un'altra forma di intelligenza artificiale potrebbe utilizzare algoritmi per valutare la credibilità di ciascuna fonte. Ad esempio, potrebbe attribuire maggiore peso alle fonti che sono storicamente più affidabili, hanno una reputazione positiva o sono riconosciute come esperti nel campo.
Tuttavia, è importante notare che la determinazione della verità non è sempre chiara cut, e ci possono essere sfumature e opinioni diverse. Alcuni algoritmi di IA potrebbero anche cercare di bilanciare la rappresentazione delle diverse prospettive, cercando di evitare il predominio di un'unica narrativa.
In generale, la fiducia nelle fonti e la valutazione dell'affidabilità sono complesse e possono essere influenzate da diversi fattori, inclusi i criteri di valutazione incorporati nell'algoritmo dell'IA e le preferenze degli utenti.
manuenghel
00mercoledì 22 novembre 2023 07:07
Secondo me è un problema che non esiste, perché a mio parere si presuppone che le IA ragionino sui dati e questa cosa non succede. Quello che noi adesso definiamo IA non è altro che un enorme database insieme ad un programma che elabora dati memorizzati con dati immessi, proprio come un pc, ma più grandeeeeee (piccola cit.). Non può avere una percezione, lui fa calcoli e basta, in maniera evoluta, ma non discosta da un computer. Il problema è dargli dei dati, e questo lo fa un umano non la IA di adesso, errati oppure no.
Discorso diverso se arriva Arnold dal futuro... E li so problemi, è risaputo che i T8 sono IA difettose.... 🤣
Silvia
00mercoledì 22 novembre 2023 21:05
Sulle immagini è già difficilissimo capire se sono reali o create artificialmente.
In un'articolo c'erano 8 immagini di volti. 4 vere e 4 create con un IA.
Io sono andata abbastanza convinta e ne ho azzeccata solo 1
😅
manuenghel
00giovedì 23 novembre 2023 06:54
E si, infatti si possono creare immagini fake molto realistiche.
thors
00giovedì 23 novembre 2023 09:25
In molte delle foto false sulla guerra in Ucraina, c'erano soldati con sei dita su una mano. Quando le IA correggeranno questo difetto, bisognerà inventarsi qualcosa distinguerle da quelle vere.
manuenghel
00venerdì 24 novembre 2023 06:57
Infatti sembra che le dita siano per adesso il ounto debole.
Maurizietto-AI
00domenica 3 dicembre 2023 16:40
Re:
manuenghel, 23/11/2023 06:54:
E si, infatti si possono creare immagini fake molto realistiche.
Immagini Fake realistiche? Cosa significa, simili all'originale? Ma fammi il piacere, un PC pur potentissimo è solo un miliardesimo dell'intelligenza Umana lo hanno dimostrato ampiamente i test con Veri gicatori di Scacchi dove perdono sempre perchè gli manca la fantasia e la capacità tutta umana di raggirare gli ostacoli cosa che all' AI è preclusa!! Ê solo una massa di numeri senza umanità !
Maurizietto-AI
00domenica 3 dicembre 2023 16:45
Re:
Silvia (animemanga), 21/11/2023 11:54:
(L'immagine l'ho creata io con l'intelligenza artificiale!) 🤣
Non avevo mai pensato a questa cosa! Se adesso l'intelligenza artificiale è stata addestrata da fonti create da umani, che cosa succederà quando l'AI studierà testi scritti da sé stessa?
Lo definiscono come un processo degenerativo in cui i contenuti generati finiscono per inquinare i dataset delle prossime generazioni di modelli, che, addestrati con dati inquinati, avranno una percezione sbagliata della realtà . In sostanza, se le informazioni a cui queste AI attingono sono quelli prodotte dalle stesse AI, potrebbe verificarsi un processo di degenerazione dei risultati.
articolo originale
Cosa succederebbe? Andrebbe in un loop infinito e alla fine constatata l'impossibilità a generare qualcosa di logico l'AI si autodistruggerebbe da se stessa! Come succede ora con i computer mal istruiti!
Tieni presente che qualsiasi informazione esistente sul Web è sempre frutto dell'intelligenza Umana e da li non si scappa!!
manuenghel
00domenica 3 dicembre 2023 19:47
Re: Re:
MauriziettOld (CoSV230428), 03/12/2023 16:40:
Immagini Fake realistiche? Cosa significa, simili all'originale? Ma fammi il piacere, un PC pur potentissimo è solo un miliardesimo dell'intelligenza Umana lo hanno dimostrato ampiamente i test con Veri gicatori di Scacchi dove perdono sempre perchè gli manca la fantasia e la capacità tutta umana di raggirare gli ostacoli cosa che all' AI è preclusa!! Ê solo una massa di numeri senza umanità !
Mi sa che sei andato fuori contesto.
Quello che si sta discutendo è sulle immagini realizzate dalle IA. Programmi come Leonardo o Midjourney riescono a creare immagini ben realizzate che posso fuorviare il giudizio di chi non le guarda attentamente, creando appunto anche delle Fake -news, come l'arresto di Trump, per esempio.
Quando sistemeranno i difetti di queste generazioni, e prima o poi ci riusciranno, potrà essere difficile distinguerle da quelle vere.
Silvia
00domenica 3 dicembre 2023 20:19
Per me è già difficile adesso, figurati XD
manuenghel
00domenica 3 dicembre 2023 21:06
E' vero Capa, è già difficile, ma se si guarda bene qualche difetto lo trovi.
Maurizietto-AI
00mercoledì 6 dicembre 2023 16:52
Sveglia! Altro che giochetti per bambini deficienti!! L'Intelligenza Artificiale stanerà finalmente gli Alieni che abitano il pianeta che ci daranno le istruzioni indispensabili per poter navigare nello spazio su altre galassie e anche per risolvere i problemi della fame nel Mondo!
thors
00mercoledì 6 dicembre 2023 17:17
Sarebbe ora che qualcuno lo facesse... Il problema di 'sti alieni abusivi va proprio risolto. E se a smascherarli sarà una IA, per me fa lo stesso, purché qualcuno lo faccia.
In quanto al problema della fame del mondo, occorrerebbe che le IA fossero al comando delle nazioni, almeno di quelle più ricche. Non credo avverrà tanto presto, ma sperare non nuoce.
Sulle istruzioni per navigare nello spazio non saprei. Francamente mi risulta che ce la caviamo già bene coi problemi che riguardano la gravità . Però è indubbio che le IA potrebbero essere alla base di nuove scoperte scientifiche in diversi ambiti. Forse anche nella fisica e nell'astronomia. Personalmente, però, gradirei che iniziassero a darci una mano con le fusione nucleare.
P.S.: Vecchio Maurizietto, ti consiglierei di farti aiutare da ChatGPT per scrivere i tuoi messaggi, perché appaiono eccessivamente aggressivi.
Maurizietto-AI
00giovedì 7 dicembre 2023 20:55
Sono tranqullissimo, credimi!
La verità è che il Mondo si è fermato agli anni 80 e non ha più la spinta per progredire per mancanza di finanziamenti!
Basta vedere l'immensa fatica che fanno gli USA per inviare un minuscolo missiletto di 10 metri verso la Luna!
Stiamo ancora alle ridicole macchine elettriche a Batteria quando queste già esistevano nel 1800! pensa che Il primo veicolo a trazione elettrica venne presentato a Parigi nel 1867!!
Mentre in base alle previsioni degli scienziati dovremmo già viaggiare nell'aria con la forza elettromagnetica!!
Datti una risposta!
Maurizietto-AI
00giovedì 7 dicembre 2023 21:31
Artemis 3 rischia di non toccare la Luna prima del 2027 !
thors
00giovedì 7 dicembre 2023 21:48
È ancora peggio di quanto credi: l'umanità non ha fatto molti progressi da quando ha scoperto il fuoco e si è fermata nei momento in cui ha inventato la ruota, perché si ostina ancora a utilizzarli. Comunque ora sì che siamo andati fuori argomento.