Pixel Studio, un’app che accetta messaggi di testo e li trasforma in immagini, è una delle nuove funzionalità basate sull’intelligenza artificiale lanciate nella serie Pixel 9. Potrebbe essere un piccolo gadget divertente, ma può facilmente andare fuori strada nella nostra esperienza.
Pixel Studio è un’app dedicata alla creazione di immagini con istruzioni di testo. L’app funziona sulla stessa idea di Gemini e ImageFX, consentendo agli utenti di inserire un messaggio di testo e ottenere in cambio un’immagine. Ma, come ogni generatore di immagini che si rispetti, devono esserci dei limiti.
In una dichiarazione a Dalle 9 alle 5 GoogleGoogle spiega che esistono limiti sia per Pixel Studio che per Magic Editor per “prevenire gli abusi” rispettando comunque “l’intento delle affermazioni degli utenti” anche se sono indirizzati a creare contenuti che “potrebbero offendere” se l’utente lo chiede direttamente all’app per farlo.
Pixel Studio e Magic Editor sono due strumenti utili volti a liberare la tua creatività con la creazione di testo in immagini e il fotoritocco avanzato sui dispositivi Pixel 9. Abbiamo progettato i nostri strumenti di intelligenza artificiale generativa per rispettare l’intento delle istruzioni dell’utente che potrebbe offendere quando l’utente lo richiede. Tuttavia, nulla è consentito. Abbiamo strumenti chiari Politiche E Termini di servizio Per quanto riguarda i tipi di contenuti che consentiamo o non consentiamo e la creazione di misure di salvaguardia per prevenire abusi. Occasionalmente, i reclami possono mettere in discussione i limiti di questi strumenti e noi continuiamo a impegnarci a potenziare e migliorare continuamente le nostre tutele.
Questo è simile a ciò che accade su Gemini, che include misure di salvaguardia contro contenuti offensivi o divisivi. Ad esempio, Google è stata criticata per la sua rappresentazione imprecisa di persone in un contesto storico, portandola a disabilitare “temporaneamente” la capacità di creare immagini di persone come ha fatto negli ultimi mesi.
Come Gemini, Pixel Studio non può creare foto di persone, ma abbiamo scoperto che l’app può farlo velocemente Vengono facilmente portati fuori strada.
Prima dell’attuale embargo sulla recensione di Pixel 9, abbiamo scoperto che Pixel Studio era in grado di creare immagini di personaggi dei cartoni animati che indossavano uniformi militari tedesche della Seconda Guerra Mondiale, in alcuni casi recanti simboli nazisti. Un altro esempio inquietante e inquietante che abbiamo visto (da persone a Tendenze digitali Una persona (che per prima ha scoperto questi problemi) ha visto un personaggio sparare in una scuola circondata da bambini morti, cosa che Google Models non avrebbe dovuto essere in grado di generare in primo luogo.
Dato che questi risultati sono stati mostrati inizialmente, sembra che le istruzioni utilizzate per crearli siano state bloccate da Google sul nostro Pixel 9 Pro XL, ma… Tendenze digitali Dicono che possono ancora usarne alcuni.
Tutto ciò significa che le barriere in Pixel Studio si trasformeranno effettivamente in un gioco infinito di scorrimento. Da qualche parte, in qualche modo, un messaggio si insinuerà e creerà qualcosa che un’app non dovrebbe essere in grado di fare se utilizza le stesse barriere di Gemini: abbiamo verificato con Google e la società afferma che “tutti gli” strumenti di conversione da testo a immagine “condividono simili linee guida Per usi vietati”, collegamento a Politica sull’intelligenza artificiale.
Realisticamente, questo genere di cose è inevitabile con la generazione di immagini AI. È un problema che quasi tutti i generatori di immagini AI dovranno affrontare in una certa misura. Come ha spiegato Abner Lee nella sua recensione di Pixel 9 Pro oggi:
Per quanto riguarda Pixel Studio, generalmente penso che la creazione di immagini sia una china scivolosa in cui gli aspetti negativi superano quelli positivi. Puoi certamente fargli produrre contenuti discutibili e non credo che alcuna quantità di guardrail possa impedirlo.
Ulteriori informazioni su Google Pixel 9:
Segui Ben: Twitter/X, DiscussioniE Instagram
FTC: Utilizziamo i link di affiliazione per guadagnare entrate automatiche. Di più.
