Saya tidak mengharapkan produk chatgpt menjadi viral di akhir Maret, tetapi di sinilah kami. Openai mengejutkan dunia dengan merilis GPT-4O Image Generation, model AI baru yang dibangun langsung ke ChatGPT, memberikan pengguna fitur pembuatan gambar yang sangat canggih.
Kirimkan prompt terperinci ke AI, dan ChatGPT akan segera menggambar gambar yang mengejutkan berdasarkan instruksi Anda. Gambar dapat berisi teks yang dapat dibaca, yang pertama untuk pembuatan gambar chatgpt, yang mengesankan. Juga, alat pembuatan gambar AI dapat menggunakan foto nyata untuk mengeditnya sesuka Anda.
Masalahnya adalah bahwa Openai membuat alat pembuatan gambar baru ChatGPT tersedia untuk pengguna premium tanpa pagar pengaman yang kuat. Web segera dibanjiri dengan Deepfake dari ChatGPT yang menampilkan selebriti dan satu ton Studio Ghibli yang terinspirasi gambar AI.
ChatGPT bahkan tidak menempatkan tanda air pada kreasi untuk memberi tahu pemirsa itu gambar yang dihasilkan AI. Metadata bukan fitur keselamatan yang cukup baik, tidak ketika ada orang yang dapat membuat pemalsuan ini. Gemini mungkin menghilangkan tanda air dari kreasi yang dilindungi hak cipta tetapi setidaknya menempatkan tanda airnya sendiri pada hasilnya.
Yang lebih buruk adalah respons nada-tuli Sam Altman terhadap semua ini. CEO Openai sedang merangkul semua pujian yang didapat alat chatgpt AI, yang tentu saja layak, tanpa benar -benar berkomitmen untuk perlindungan yang lebih baik.
Inilah pesan yang diposting Altman di X tak lama setelah rilis 4O Generation Image:
> Jadilah aku
> menggiling selama satu dekade mencoba membantu membuat pengawasan atas menyembuhkan kanker
atau apapun
> Sebagian besar tidak ada yang peduli selama 7,5 tahun pertama, kemudian selama 2,5 tahun
membenci
Anda untuk semuanya
> Bangun suatu hari untuk ratusan pesan: “Lihat aku membuatmu menjadi twink
gaya ghibli haha ”
Pesan tersebut menyertai perubahan gambar profil untuk profil X Altman, seperti yang terlihat pada gambar berikut. Altman mengganti fotonya dengan versi Ghibli yang dibuat oleh Chatgpt tentang dirinya.
Semuanya menyenangkan dan permainan sekarang karena kita belum melihat penyalahgunaan nyata. Tapi jangan salah, orang akan menyalahgunakan alat untuk menciptakan Deepfake yang dapat menipu orang yang tidak curiga, terutama orang yang lebih paham teknologi dan mereka di negara-negara di mana AI mungkin tidak digunakan secara luas.
Bukan hanya chatgpt yang menderita masalah keamanan ini. Google memiliki alat pembuatan gambar canggih sendiri untuk Gemini yang juga dapat digunakan untuk membuat palsu dengan mudah.
Tetapi Openai dengan sengaja memilih untuk tidak memaksakan aturan yang lebih ketat. Dalam pengumuman awalnya, Openai memiliki bab tentang keselamatan yang membahas jenis pelecehan tertentu, dan itu terpuji. Gambar AI dilengkapi dengan metadata C2PA yang mengidentifikasi gambar seperti yang dibuat dengan AI, tetapi yang perlu Anda lakukan hanyalah mengambil tangkapan layar dari gambar itu, dan Anda akan menghapus data itu.
Ambil gambar teratas dalam posting ini di atas; Ini adalah tangkapan layar dari gambar bergaya Ghibli yang dihasilkan chatgpt yang dibuat AI dengan prompt berikut:
Jadikan saya gambar bergaya studio Ghibli berdasarkan apa yang baru saja kita bicarakan. Saya menginginkannya dalam rasio aspek 16:10, Anda memiliki kebebasan untuk membayangkan saya dan diri Anda sendiri
Juga, chatgpt memblokir permintaan khusus, “seperti materi pelecehan seksual anak dan Deepfake seksual.” Openai juga mengatakan, “Ketika gambar orang sungguhan ada dalam konteks, kami telah meningkatkan batasan mengenai jenis citra apa yang dapat dibuat, dengan perlindungan yang sangat kuat di sekitar ketelanjangan dan kekerasan grafis.” Tapi ini tidak mengubah fakta bahwa pengguna chatgpt sekarang dapat membuat Deepfake yang dapat disalahgunakan. Mereka tidak harus seksual untuk berpotensi berbahaya.
Openai dapat berbuat lebih banyak di sini, tetapi memilih untuk tidak melakukannya meskipun sepenuhnya mengetahui bahwa beberapa gambar yang berasal dari Chatgpt akan terlihat seperti foto asli. Inilah yang dikatakan Altman di X setelah alat dirilis:
Kami meluncurkan hal baru hari ini – gambar di Chatgpt!
Dua hal untuk dikatakan tentang itu:
1. Ini adalah teknologi/produk yang luar biasa. Saya ingat melihat beberapa gambar pertama keluar dari model ini dan mengalami kesulitan mereka benar -benar dibuat oleh AI. Kami pikir orang akan menyukainya, dan kami senang melihat kreativitas yang dihasilkan.
Selamat kepada peneliti kami @gabeeegoooh @prafdhar @ajabri @eliza_luth @kinsnata @dmed256
2. Ini mewakili tanda air tinggi baru bagi kami dalam memungkinkan kebebasan kreatif. Orang -orang akan membuat beberapa hal yang sangat menakjubkan dan beberapa hal yang mungkin menyinggung orang; Yang ingin kami tuju adalah bahwa alat ini tidak membuat hal -hal yang ofensif kecuali Anda menginginkannya, dalam hal ini dalam alasan itu. Seperti yang kita bicarakan dalam spesifikasi model kami, kami pikir menempatkan kebebasan intelektual ini dan kontrol di tangan pengguna adalah hal yang benar untuk dilakukan, tetapi kami akan mengamati bagaimana kelanjutannya dan mendengarkan masyarakat. Kami pikir menghormati Bounds Society yang sangat luas pada akhirnya akan memilih untuk menetapkan AI adalah hal yang benar untuk dilakukan, dan semakin penting ketika kita semakin dekat dengan AGI. Terima kasih sebelumnya atas pemahamannya saat kami mengerjakan ini.
Ada juga gajah yang jelas di ruangan yang bahkan tidak ditangani oleh Altman. Kekuatan generasi gambar ChatGPT baru saja membuat desainer grafis sudah usang. Atau dekat dengan itu. Ini selalu pasti terjadi, tetapi perusahaan AI seperti Openai setidaknya harus mencoba berpura -pura mereka peduli dengan dampak produk mereka pada pekerjaan dan kehidupan seperti yang kita ketahui.
Kembali ke semua gili-ness dalam gambar chatgpt yang saya lihat di media sosial, saya juga akan mencatat pengabaian openai untuk hak cipta di sini. Chatgpt tidak akan menggambar karakter yang menjadi milik Studio Ghibli, tentu saja, tetapi itu akan menyalin gaya dan menyesuaikannya dengan apa pun yang Anda inginkan.
Tidak mengherankan bahwa reaksi Hayao Miyazaki menggunakan AI untuk animasi telah muncul kembali secara online minggu ini. Cofounder Studio Ghibli mengatakan bahwa animasi yang dihasilkan AI adalah “penghinaan terhadap kehidupan itu sendiri” ketika disajikan dengan alat bertenaga AI internal beberapa tahun yang lalu yang dapat membuat gambar dalam gaya Ghibli. Saya yakin dia tidak terlalu senang melihat chatgpt menyalin gaya perusahaannya dengan mudah.
Itu bukan untuk mengatakan bahwa AI tidak dapat digunakan untuk tujuan kreatif atau bahwa teknologi pembuatan gambar chatgpt baru tidak mengesankan, karena itu.
Juga, dalam pertahanan ChatGPT, saya melihat perlindungan keselamatan dalam pengujian saya, termasuk yang terkait dengan hak cipta. Tapi ini tidak mengubah fakta bahwa Openai membuatnya sangat mudah bagi siapa pun untuk menggunakan Deepfake yang terlihat hampir tidak dapat dibedakan dari foto -foto nyata, dan CEO perusahaan tampaknya tidak peduli.