Satu tindanan penyederhanaan, empat enjin — dan laporan untuk setiap bingkai
Kami telah memindahkan setiap model penyederhanaan ke dalam satu perkhidmatan tunggal, dan mendedahkan apa yang dinilai oleh setiap enjin pada setiap imej dan setiap bingkai video.
Sehingga minggu ini, VibeFlow menjalankan model penyederhanaannya di dua tempat. Aplikasi penyerahan menyaring teks; perkhidmatan pengesan yang berasingan menyaring imej dan video. Kedua-duanya membangunkan salinan taksonomi yang sama, dan kedua-duanya terpisah — peraturan yang ditambah pada satu pihak tidak pernah sampai ke pihak yang lain.
Semuanya kini berjalan dalam satu perkhidmatan. Penyerahan disaring oleh empat enjin bebas, kesemuanya pada setiap siaran:
- Pra-semakan nama orang yang berjalan secara tempatan tanpa kos API — gelaran kehormat (Dr, Prof, Encik, Ustaz, Cikgu), penanda keturunan bin/binti, nama keluarga Cina dan India Malaysia, dan urutan nama aksara Cina.
- OpenAI omni-moderation-latest, untuk skor bahaya peringkat kategori.
- Meta Llama 4 Scout, yang menimbangkan sama ada nama digunakan untuk memfitnah seseorang dan sama ada tuntutan tidak dapat disahkan — dua pertimbangan yang membentuk sebahagian besar daripada apa yang sebenarnya dilaporkan pada halaman pengakuan.
- Pengelas NSFW di premis yang berjalan pada perkakasan kami sendiri, ke atas setiap imej dan setiap bingkai video yang disampel.
Tiada satu pun daripada ini adalah sandaran untuk yang lain. Ia berjalan secara selari, dan mana-mana satu daripadanya yang menandakan akan menahan siaran untuk semakan.
Perubahan yang lebih besar adalah apa yang anda kini boleh lihat. Pengesan sentiasa menilai setiap bingkai video — tetapi panel pentadbir hanya menunjukkan satu keputusan, jadi lulus bersih kelihatan sama dengan penyederhanaan yang tidak pernah dijalankan. Panel penyederhanaan anda kini menunjukkan bukti: setiap imej, dan setiap bingkai video, apa yang dinilai oleh pengelas NSFW, apa yang dikatakan oleh Scout vision, dan apa yang dikembalikan oleh omni-moderation. Klip video berkembang menjadi jadual bingkai demi bingkai.
Itu paling penting dalam kes-kes yang samar-samar. Apabila siaran berada pada 38% NSFW pada satu bingkai dan 2% pada yang lain, anda boleh melihat dengan tepat bingkai mana yang perlu dilihat dan bukannya meneka.
Apa yang berlaku selepas enjin telah berjalan
Penanda tidak memadam apa-apa. Penyerahan yang ditanda diketepikan untuk pentadbir halaman, yang akan dimaklumkan, dan ia kekal di sana dengan bukti sehingga salah seorang daripada mereka membuat keputusan. Penyerahan yang tidak ditanda menunggu dalam barisan biasa untuk pentadbir meluluskannya.
Terdapat satu tetapan yang mengubah ini. Halaman boleh menghidupkan Terbit Auto, dan kemudian penyerahan yang lulus setiap enjin diterbitkan tanpa pentadbir membacanya terlebih dahulu. Ia dimatikan secara lalai. Enjin adalah baik dalam apa yang jelas dan lemah dalam apa yang hanya tidak baik, jadi lulus bersih bermakna tiada apa-apa yang jelas ditemui — bukan bermakna siaran itu sesuai untuk diterbitkan. Panduan kami tentang cara penyederhanaan AI berfungsi, dan di mana ia gagal, melalui kes-kes kegagalan satu persatu.