특히 Image Playground 기능을 통한 AI 생성 이미지에 대한 Apple의 라벨링 시스템에는 사용자 경험과 라벨링의 효율성에 영향을 미칠 수 있는 몇 가지 제한 사항이 있습니다. 주요 제약사항은 다음과 같습니다.
Apple AI 이미지 라벨의 한계
1. 메타데이터 취약점
- AI가 생성한 이미지에는 EXIF 메타데이터를 통해 라벨이 지정되어 소스가 "Apple Image Playground"임을 나타냅니다. 그러나 이 메타데이터는 온라인에서 사용 가능한 다양한 이미지 편집 도구를 사용하여 쉽게 제거하거나 변경할 수 있습니다[6]. 이는 투명성 유지에 있어 라벨의 신뢰성에 대한 우려를 불러일으킵니다.
2. 내장된 인증 부족
- 인증을 이미지에 직접 포함시키는 일부 고급 시스템과 달리 Apple은 현재 이러한 기술을 사용하지 않습니다. 즉, 메타데이터가 제거되면 이미지의 출처를 추적하거나 AI 생성 상태를 확인할 방법이 없습니다[6].
3. 제한된 사용자 인식
- 사용자는 EXIF 데이터를 확인하거나 해석하는 방법을 알지 못할 수 있습니다. 이러한 이해 부족은 특히 기술에 대한 지식이 부족하거나 메타데이터에 익숙하지 않은 사람들 사이에서 어떤 이미지가 AI로 생성되었는지에 대한 혼란을 초래할 수 있습니다[1].
4. 비사실주의에 중점
- Apple은 설계상 생성된 이미지를 애니메이션, 일러스트레이션, 스케치의 세 가지 예술적 스타일로 제한합니다. 이 접근 방식은 실제 사진과의 혼동을 방지하는 것을 목표로 하지만 보다 사실적인 표현을 원하는 사용자의 창의적 가능성을 제한합니다[5]. 이러한 제한은 작업에 사실적인 이미지가 필요한 전문가를 좌절시킬 수 있습니다.
5. 언어 및 접근성 장벽
- Apple Intelligence 기능의 초기 출시는 미국 영어로 제한되므로 영어가 아닌 사용자는 이러한 기능을 완전히 활용할 수 없습니다. 이러한 제한으로 인해 다양한 글로벌 시장에서 AI 생성 콘텐츠에 대한 사용자 참여가 더욱 복잡해질 수 있습니다[1].
요약하자면, Apple의 라벨링 시스템은 AI 생성 이미지에 대한 투명성을 제공하는 것을 목표로 하지만, 쉽게 변경할 수 있는 메타데이터에 의존하고 내장된 인증이 부족하여 심각한 문제를 안고 있습니다. 또한 이미지 스타일 및 접근성 문제에 대한 제한으로 인해 기술에 대한 사용자 만족도와 참여가 제한될 수 있습니다.
인용:[1] https://elblog.pl/2024/06/11/the-limitations-of-apples-artificial-intelligence-expansion/
[2] https://elservicecentre.com/is-apple-intelligence-good-pros-and-cons-of-apples-ai-systems/
[3] https://www.theverge.com/2024/6/17/24180217/heres-why-apple-intelligence-is-limited-to-the-iphone-15-pro-and-macs-and-ipads -m-시리즈 칩 포함
[4] https://www.vox.com/technology/370836/apple-intelligence-iphone-16-ios-update-siri
[5] https://www.headshotbooth.ai/blog/the-limitations-of-apples-image-playground-what-users-really-want
[6] https://forums.appleinsider.com/discussion/236784/how-apple-will-label-ai-generated-images-made-with-image-playground
[7] https://appleinsider.com/articles/24/06/17/how-apple-will-label-ai-generated-images-made-with-image-playground
[8] https://www.inverse.com/tech/apple-intelligence-image-playground-ios-18