Grok, khususnya Grok 2, menonjol dari generator gambar AI lainnya karena pendekatannya yang relatif lemah terhadap moderasi konten. Tidak seperti alat seperti Midjourney, yang telah menerapkan sistem moderasi berbasis AI bernuansa untuk mencegah generasi konten yang tidak pantas atau dilindungi hak cipta, Grok 2 telah dikritik karena kurang perlindungan yang kuat. Ini berarti pengguna dapat menghasilkan gambar yang mungkin melanggar hak cipta atau menggambarkan konten ofensif, meningkatkan masalah etika dan hukum yang signifikan [2] [3] [5].
Midjourney, misalnya, telah mengembangkan sistem moderasi untuk memungkinkan lebih banyak pembuatan gambar yang bergantung pada konteks sambil tetap mempertahankan kontrol ketat terhadap konten berbahaya. Sebaliknya, kurangnya moderasi yang kuat Grok telah menyebabkan contoh menghasilkan gambar kekerasan, ofensif, atau sugestif seksual, menyoroti risiko yang terkait dengan pendekatannya [2] [3].
Sementara Grok telah mulai memperkenalkan beberapa fitur moderasi konten, rilis awal dan pembaruan selanjutnya telah ditandai oleh sikap yang lebih permisif pada konten yang dibuat pengguna. Pendekatan ini dipandang sebagai kebebasan kreatif dan kewajiban, karena membuka pintu bagi potensi penyalahgunaan dan masalah hukum yang terkait dengan pelanggaran dan pencemaran nama baik hak cipta [4] [5].
Dibandingkan dengan alat AI lain seperti Adobe's Firefly, yang dilatih pada foto stok berlisensi untuk menghindari masalah hak cipta, model Grok menimbulkan pertanyaan tentang penyebaran AI yang bertanggung jawab dan kebutuhan untuk kerangka hukum yang lebih jelas di sekitar konten yang dihasilkan AI [3] [5]. Secara keseluruhan, strategi moderasi konten Grok lebih lunak daripada banyak pesaingnya, yang dapat memengaruhi adopsi dan kepatuhan peraturannya di masa depan.
Kutipan:[1] https://ericleads.com/grok-image-generator-ai-cutting-elged-technology/
[2] https://www.digitaltrends.com/computing/midjourney-grok-better-ai-image-generator/
[3] https://techxplore.com/news/2024-08-elon-musk-grok-risky-ai.html
[4] https://parental-control.flashget.com/exploring-grok-2
[5] https://www.munckwilson.com/news-insights/grok-2-musks-ai-model-sparks-ip-and-copyright-concerns/
[6] https://writesonic.com/blog/grok-3-vs-catgpt
[7] https://qacc.giveth.io/news/grok-ai-image-generation-ethics-legal-comparison
[8] https://ai-pro.org/learn-ai/articles/grok-ai-vs-claude-ai-choosing-the-right-model-for-your-needs/