Ditulis oleh Bartlomiej Wronski, Software Engineer dan Peyman Milanfar, Lead Scientist, Computational Imaging
Zoom digital yang menggunakan algoritme (bukan lensa) telah lama menjadi "kambing hitam" dari kamera perangkat seluler. Dibandingkan dengan kemampuan zoom optik kamera DSLR , kualitas gambar yang diperbesar secara digital belum kompetitif, dan kebanyakan masyarakat berpendapat bahwa mekanisme dan optik kompleks kamera yang berukuran besar tidak akan dapat digantikan dengan algoritme cerdas dan kamera perangkat seluler yang jauh lebih ringkas.
Dengan fitur Super Res Zoom baru di Pixel 3, kami menantang pendapat tersebut.
Teknologi Super Res Zoom di Pixel 3 berbeda dan lebih baik daripada pembesaran digital sebelumnya yang menggunakan teknik pembesaran potongan pemangkasan satu gambar, karena kami menggabungkan banyak bingkai secara langsung ke gambar resolusi yang lebih tinggi. Hal ini menghasilkan detail yang jauh lebih baik dan kompetitif dengan lensa zoom optik 2x pada banyak smartphone lainnya. Super Res Zoom berarti bahwa jika Anda melakukan cubit-zoom sebelum menekan rana, Anda akan mendapatkan lebih banyak detail dalam gambar daripada jika Anda memangkas setelahnya.
Pangkas Zoom 2x: Pixel 2, 2017 vs. Super Res Zoom di Pixel 3, 2018.
Tantangan Zoom Digital
Zoom digital sangat sulit karena algoritme yang baik berharap permulaan dengan gambar resolusi lebih rendah dan "merekonstruksi" detail yang hilang dengan andal — dengan zoom digital biasa, pemangkasan kecil sebuah gambar kemudian diperbesar untuk menghasilkan gambar yang jauh lebih besar. Secara tradisional, ini dilakukan dengan metode interpolasi linear , metode ini mencoba menciptakan kembali informasi yang tidak tersedia dalam gambar aslinya, tetapi mengakibatkan tampilan kabur atau seperti “plastik” yang tidak memiliki tekstur dan detail. Sebaliknya, kebanyakan pembesaran satu gambar modern menggunakan machine learning (termasuk karya kami sebelumnya, RAISR ). Fitur ini memperbesar beberapa fitur gambar khusus seperti tepi lurus dan bahkan bisa menyintesis tekstur tertentu, tetapi mereka tidak bisa memulihkan detail resolusi tinggi yang natural. Meskipun kami masih menggunakan RAISR untuk meningkatkan kualitas gambar visual, sebagian besar resolusi ditingkatkan yang disediakan oleh Super Res Zoom (setidaknya untuk faktor zoom yang tidak terlalu tinggi seperti 2-3x) berasal dari pendekatan multibingkai kami.
Array Filter Warna dan Demosaicing
Merekonstruksi detail halus sangat sulit karena foto digital sudah tidak lengkap — mereka telah direkonstruksi dari informasi warna parsial melalui proses yang disebut demosaicing . Pada kamera konsumen biasa, elemen sensor kamera hanya ditujukan untuk mengukur intensitas cahaya, bukan warnanya secara langsung. Untuk mengambil warna sesungguhnya saat ini di layar, kamera menggunakan array filter warna yang ditempatkan di depan sensor sehingga setiap piksel hanya mengukur satu warna (merah, hijau, atau biru). Ini tersusun dalam pola Bayer seperti yang ditunjukkan pada diagram di bawah ini.
Filter warna mosaik Bayer. Setiap gugus piksel 2x2 mengambil cahaya yang difilter oleh warna tertentu — dua piksel hijau (karena mata kita lebih sensitif terhadap warna hijau), satu merah, dan satu biru. Pola ini diulang di seluruh gambar.
Pipeline pemrosesan kamera kemudian harus merekonstruksi warna asli dan semua detail dalam semua piksel, dengan informasi parsial ini.* Demosaicing dimulai dengan membuat tebakan terbaik pada informasi warna yang hilang, biasanya dengan menginterpolasi warna di piksel terdekat, yang berarti bahwa dua pertiga gambar digital RGB sesungguhnya adalah rekonstruksi!
Demosaicing merekonstruksi informasi warna yang hilang dengan menggunakan piksel yang berdekatan.
Dalam bentuk yang paling sederhana, ini bisa dicapai dengan melakukan rata-rata dari nilai-nilai yang berdekatan. Sebagian besar implementasi algoritme demosaicing yang sesungguhnya lebih rumit daripada hal ini, tetapi mereka masih menyebabkan artefak dan hasil yang tidak sempurna - karena terkendala oleh informasi parsial. Meskipun situasi ini juga terjadi pada kamera DSLR berformat besar, sensor dan lensa yang lebih besar memungkinkan mereka menangkap lebih banyak detail daripada kamera seluler biasa.
Situasinya semakin tidak menguntungkan ketika Anda melakukan cubit-zoom pada perangkat seluler; lalu algoritme dipaksa untuk membuat lebih banyak informasi, dengan interpolasi dari piksel terdekat. Namun, tidak semuanya hilang. Di sinilah fotografi burst dan perpaduan banyak gambar bisa digunakan untuk membuat resolusi-super, bahkan ketika terbatas oleh optik perangkat seluler.
Dari Fotografi Burst ke Resolusi Super Multibingkai
Meskipun sebuah bingkai tidak bisa memberikan informasi yang cukup untuk mengisi warna yang hilang, kita bisa mendapatkan beberapa informasi yang hilang ini dari beberapa gambar yang diambil secara berurutan. Proses menangkap dan menggabungkan beberapa foto berurutan ini dikenal sebagai fotografi burst . Algoritme HDR+ Google, yang berhasil diterapkan di ponsel Nexus dan Pixel, sudah menggunakan informasi dari beberapa bingkai untuk menjadikan foto dari ponsel mencapai tingkat kualitas yang diharapkan dari sensor yang jauh lebih besar; apakah pendekatan serupa bisa digunakan untuk meningkatkan resolusi gambar?
Telah dikenal selama lebih dari satu dekade , termasuk dalam astronomi dengan konsep dasar yang dikenal sebagai “drizzle ”, yang menangkap dan menggabungkan beberapa gambar yang diambil dari posisi yang sedikit berbeda bisa menghasilkan resolusi yang setara dengan zoom optik, setidaknya pada tingkat pembesaran rendah seperti 2x atau 3x dan dalam kondisi pencahayaan yang baik. Dalam proses yang disebut resolusi super multibingkai ini, ide umumnya adalah menyelaraskan dan menggabungkan foto burst resolusi rendah secara langsung ke grid resolusi yang diinginkan (lebih tinggi). Berikut adalah contoh bagaimana algoritme resolusi super multibingkai yang ideal berfungsi:
Dibandingkan dengan pipeline demosaicing standar yang membutuhkan interpolasi warna yang hilang (atas), idealnya, seseorang bisa mengisi beberapa lubang dari beberapa gambar, masing-masing digeser sebesar satu piksel secara horizontal atau vertikal.
Dalam contoh di atas, kami mengambil 4 bingkai, tiga di antaranya bergeser tepat satu piksel: ke arah horizontal, vertikal, dan ke kedua arah. Semua lubang akan terisi, dan demosaicing sama sekali tidak diperlukan! Memang, beberapa kamera DSLR mendukung operasi ini, tetapi hanya jika kamera tersebut menggunakan tripod, dan sensor/optik secara aktif berpindah ke posisi yang berbeda. Ini kadang-kadang disebut "microstepping".
Selama bertahun-tahun, penggunaan praktik pendekatan “super-res” untuk pencitraan resolusi yang lebih tinggi baru digunakan secara terbatas pada sebagian besar laboratorium, atau setelan terkontrol lainnya di mana sensor dan subjek disejajarkan dan gerakan di antara keduanya dikendalikan dengan sengaja atau dibatasi secara ketat. Misalnya, dalam pencitraan astronomi, teleskop stasioner mengetahui arah gerakan langit. Namun, dalam perangkat pencitraan yang banyak digunakan seperti smartphone modern, praktik penggunaan super-res untuk aplikasi zoom in seperti kamera perangkat seluler masih belum terjangkau.
Hal ini karena fakta bahwa agar bisa berfungsi dengan benar, kondisi tertentu harus terpenuhi. Pertama, dan yang paling penting, adalah bahwa lensa harus bisa memberikan detail yang lebih baik daripada sensor yang digunakan (sebaliknya, Anda dapat bayangkan sebuah kasus ketika lensa dirancang sedemikian buruk sehingga penambahan sensor yang lebih baik tidak memberikan manfaat sama sekali). Properti ini sering diamati sebagai artefak kamera digital yang tidak diinginkan yang disebut aliasing.
Aliasing Gambar
Aliasing terjadi ketika sensor kamera tidak bisa dengan tepat merepresentasikan semua pola dan detail yang ada dalam foto. Contoh yang bagus dari aliasing adalah pola Moiré , yang kadang-kadang terlihat di TV sebagai akibat dari salah memilih kabinet . Selain itu, efek aliasing pada fitur fisik (seperti tepi meja) berubah ketika ada sesuatu yang bergerak dalam adegan foto. Anda bisa mengamatinya dalam rentetan burst berikut, di mana sedikit saja gerakan kamera selagi rentetan burst akan menciptakan efek time-varying alias:
Kiri: Resolusi tinggi, sebuah gambar tepi meja dengan latar belakang berpola frekuensi tinggi, Kanan: Bingkai yang berbeda dari foto burst. Efek Aliasing dan Moiré terlihat jelas antar bingkai — piksel terlihat melompat-lompat dan menghasilkan pola warna yang berbeda.
Namun, perilaku ini merupakan keuntungan tersembunyi: jika seseorang menganalisis pola yang dihasilkan, pola ini memberikan kita variasi nilai warna dan kecerahan, seperti yang dibahas di bagian sebelumnya, untuk mencapai resolusi super. Meskipun begitu, banyak tantangan yang harus diselesaikan, karena praktik resolusi super harus berfungsi dengan ponsel genggam dan setiap rentetan burst.
Praktik Resolusi Super Menggunakan Gerakan Tangan
Seperti yang disebutkan sebelumnya, beberapa kamera DSLR menawarkan mode khusus resolusi super menggunakan tripod yang bekerja dengan cara yang serupa dengan yang kami jelaskan sejauh ini. Pendekatan ini bergantung pada gerakan fisik sensor dan optik di dalam kamera, tetapi memerlukan stabilisasi kamera yang sempurna, sehingga tidak praktis diterapkan di perangkat seluler, karena hampir selalu digenggam. Tampaknya, akan dibutuhkan 22 jepretan guna pencitraan resolusi super pada platform seluler untuk hal ini.
Namun, kami memutarbalikkan kesulitan ini, dengan menggunakan gerakan tangan untuk keuntungan kami. Saat kami mengambil foto burst dengan kamera genggam atau ponsel, selalu ada gerakan yang terjadi antar bingkai. Sistem Optical Image Stabilization (OIS) mengompensasi goyangan kamera yang besar - biasanya 5-20 piksel antar bingkai berturutan berjarak 1/30 detik - tetapi tidak bisa sepenuhnya menghilangkan sedikit getaran tangan alami yang terjadi cepat, yang dialami oleh semua orang (bahkan mereka dengan “tangan stabil”). Ketika mengambil foto menggunakan ponsel dengan sensor resolusi tinggi, getaran tangan ini hanya memiliki besaran beberapa piksel.
Efek getaran tangan yang terlihat dalam burst yang dipangkas, setelah penyesuaian global.
Untuk mengambil keuntungan dari getaran tangan, pertama-tama kami harus menyesuaikan gambar-gambar burst tersebut secara bersamaan. Kami memilih satu gambar dalam burst sebagai "basis" atau bingkai referensi, dan menyesuaikan setiap bingkai lain yang terkait dengannya. Setelah penyesuaian, gambar yang digabungkan bersama kira-kira terlihat seperti dalam diagram yang ditunjukkan sebelumnya dalam postingan ini. Tentu saja, goyangan tangan tidak mungkin menggeser gambar tepat satu piksel, jadi kita harus melakukan interpolasi antar piksel yang berdekatan di setiap bingkai yang baru diambil sebelum memasukkan warna ke dalam grid piksel bingkai dasar.
Ketika tidak ada gerakan tangan karena perangkat benar-benar stabil (mis. ditempatkan di tripod), kita masih bisa mencapai tujuan dari menyimulasikan gerakan tangan alami dengan sengaja “menggoyang-goyang” kamera, dengan memaksa modul OIS bergerak sedikit antar jepretan. Gerakan ini sangat kecil dan dipilih sedemikian rupa sehingga tidak mengganggu foto normal - tetapi Anda bisa mengamatinya langsung di Pixel 3 dengan menahan ponsel agar stabil, seperti dengan menekannya ke jendela, dan secara maksimal melakukan cubit-zoom jendela bidik. Carilah gerakan elips yang kecil namun terus menerus terjadi pada benda-benda yang jauh, seperti yang ditunjukkan di bawah ini.
Mengatasi Tantangan Resolusi Super
Deskripsi proses ideal yang kami jelaskan di atas terdengar mudah, tetapi resolusi super tidak semudah itu — ada banyak alasan mengapa resolusi super tidak banyak digunakan dalam produk konsumen seperti telepon seluler, dan membutuhkan pengembangan inovasi algoritme yang signifikan. Tantangan-tantangan tersebut meliputi:
Sebuah gambar burst tidak bersih, ber-noise, bahkan dalam pencahayaan yang baik. Praktik algoritme resolusi super harus menyadari noise ini dan tetap berfungsi dengan baik. Kami tidak hanya menginginkan gambar ber-noise dengan resolusi lebih tinggi - tujuan kami adalah meningkatkan resolusi tetapi juga menghasilkan tingkat noise yang jauh lebih sedikit.
Kiri: Sebuah bingkai foto burst yang diambil dalam kondisi cahaya yang bagus masih terdapat banyak noise karena underexposure. Kanan: Hasil penggabungan beberapa bingkai setelah pemrosesan burst.
Gerak antar gambar dalam burst tidak terbatas hanya pada gerakan kamera. Ada gerakan yang kompleks dalam adegan foto seperti daun yang ditiup angin, riak yang bergerak melintasi permukaan air, mobil, orang-orang yang bergerak atau mengubah ekspresi wajah mereka, atau nyala api — bahkan beberapa gerakan yang tidak bisa ditetapkan dalam estimasi gerakan unik karena transparan atau multilayer, seperti asap atau kaca. Penyesuaian yang benar-benar andal dan dilokalkan pada umumnya tidak mungkin dilakukan, dan oleh karena itu, algoritme resolusi super yang baik harus tetap berfungsi bahkan jika estimasi gerakan tidak sempurna.
Karena banyak gerakan acak, bahkan jika ada kesesuaian yang baik, data mungkin padat di beberapa area gambar dan tipis di area lainnya. Inti dari resolusi super adalah masalah interpolasi kompleks, sehingga penyebaran data yang tidak teratur membuatnya menantang untuk menghasilkan gambar dengan resolusi tinggi di semua bagian grid.
Semua tantangan di atas tampaknya akan membuat penerapan resolusi super dalam pemakaian sehari-hari sulit dipraktikkan, atau terbatas hanya pada adegan foto statis dan kamera yang diletakkan di atas tripod. Dengan Super Res Zoom di Pixel 3, kami telah mengembangkan metode peningkatan resolusi burst yang akurat dan stabil yang menggunakan gerakan tangan alami, dan cukup kuat serta efisien untuk diterapkan di ponsel.
Berikut cara kami mengatasi tantangan-tantangan tersebut:
Untuk secara efektif menggabungkan bingkai dalam burst, dan untuk menghasilkan nilai merah, hijau, dan biru untuk setiap piksel tanpa demosaicing, kami mengembangkan metode integrasi informasi di seluruh bingkai dengan memperhitungkan tepi gambar, dan menyesuaikannya. Secara khusus, kami menganalisis bingkai masukan dan menyesuaikan cara kami menggabungkannya, mencari keseimbangan yang baik antara peningkatan detail dan resolusi vs. penghalusan dan peredam bising. Kami melakukannya dengan menggabungkan piksel di sepanjang tepi yang terlihat, daripada yang berhadapan. Efek bersihnya adalah metode multibingkai kami menyediakan keseimbangan praktik terbaik antara pengurangan noise dan peningkatan detail.
Kiri: Gambar yang digabungkan dengan tradeoff yang tidak optimal dari pengurangan noise dan resolusi yang ditingkatkan. Kanan: Gabungan gambar yang sama dengan tradeoff yang lebih baik.
Agar algoritme bisa menangani adegan dengan gerakan lokal yang kompleks (orang, mobil, air atau daun pohon yang bergerak) dengan andal, kami mengembangkan model ketahanan yang dapat mendeteksi dan mengurangi error penyesuaian. Kami memilih satu bingkai sebagai “gambar referensi”, dan menggabungkan informasi dari bingkai lain ke dalamnya hanya jika kami yakin bahwa kami telah menemukan fitur yang tepat dan sesuai. Dengan cara ini, kami bisa menghindari artefak seperti “ghosting” atau motion blur, dan salah menggabungkan bagian gambar.
Bus yang bergerak cepat dalam burst gambar. Kiri: Digabungkan tanpa model ketahanan. Kanan: Digabungkan dengan model ketahanan.
Mendorong Kualitas Tertinggi dalam Fotografi Seluler
Mode Potret tahun lalu, dan pipeline HDR+ sebelumnya, menunjukkan seberapa bagus fotografi seluler saat ini. Tahun ini, kami melakukan hal yang sama untuk fitur zoom. Ini adalah langkah lain dalam memajukan kualitas tertinggi dalam fotografi komputasional, sembari mengecilkan kesenjangan kualitas antara fotografi seluler dan DSLR. Berikut ini adalah album yang berisi gambar FOV penuh, kemudian diikuti dengan gambar Super Res Zoom. Perhatikan bahwa gambar Super Res Zoom dalam album ini tidak dipangkas — mereka diambil langsung di perangkat menggunakan cubit-zoom.
Kiri: Pangkas dari gambar yang diperbesar 7x di Pixel 2. Kanan: Hasil pemangkasan yang sama dari Super Res Zoom di Pixel 3.
Ide mengenai resolusi super sudah lebih dahulu ada setidaknya satu dekade sebelum munculnya smartphone. Hampir selama itu pula, ide ini hidup dalam imajinasi publik melalui film dan televisi. Ia sudah menjadi subjek ribuan makalah dalam konferensi dan jurnal akademik. Sekarang, ide ini menjadi kenyataan — di genggaman tangan Anda, di Pixel 3.
VIDEO
Animasi ilustratif Super Res Zoom. Ketika pengguna mengambil foto yang di-zoom, Pixel 3 mengambil keuntungan dari gerakan tangan alami pengguna dan menangkap burst gambar pada posisi yang sedikit berbeda. Gambar kemudian digabungkan untuk menambahkan detail ke gambar akhir.
Ucapan Terima Kasih
Super Res Zoom adalah hasil kolaborasi beberapa tim di Google. Project ini tidak akan mungkin berjalan tanpa upaya gabungan dari tim yang dipimpin oleh Peyman Milanfar, Marc Levoy, dan Bill Freeman. Penulis ingin mengucapkan terima kasih khususnya kepada Marc Levoy dan Isaac Reynolds atas bantuannya dalam penulisan blog ini.
Penulis ingin secara khusus berterima kasih kepada kontributor-kontributor utama project Super Res Zoom: Ignacio Garcia-Dorado, Haomiao Jiang, Manfred Ernst, Michael Krainin, Daniel Vlasic, Jiawen Chen, Pascal Getreuer, dan Chia-Kai Liang. Project ini juga sangat diuntungkan atas kontribusi dan masukan Ce Liu, Damien Kelly, dan Dillon Sharlet.
Bagaimana cara memaksimalkan Super Res Zoom?
Berikut adalah beberapa tips untuk mendapatkan hasil Super Res Zoom terbaik di ponsel Pixel 3:
Cubit dan zoom, atau gunakan tombol + untuk meningkatkan zoom dengan langkah-langkah terpisah.
Tap dua kali preview untuk beralih dengan cepat antara zoom in dan zoom out.
Super Res bekerja dengan baik di semua faktor zoom, meskipun untuk alasan kinerja, ia hanya aktif di atas 1,2x. Itu sekitar setengah jalan antara tanpa zoom dan “klik” pertama di UI zoom.
Ada batasan mendasar untuk resolusi optik kamera sudut lebar. Jadi untuk mendapatkan hasil maksimal dari (setiap) zoom, pertahankan faktor pembesaran yang tidak terlalu tinggi.
Hindari objek yang bergerak cepat. Super Res Zoom akan menangkapnya dengan benar, tetapi Anda kemungkinan tidak mendapatkan resolusi yang lebih tinggi.
* Perlu dicatat bahwa situasinya mirip dengan cara mata kita melihat — pada manusia (dan mamalia lainnya), sel kerucut mata yang berbeda sensitif terhadap beberapa warna tertentu, dan otak mengisi detailnya untuk merekonstruksi gambar penuh.↩
Dewapoker Terbesar di indonesia Menyediakan banyak pilihan game, salah satunya adalah game poker, Dewa Poker online memiliki member aktif dan hal menarik pada Dewa Poker menyediakan tournament poker yang dapat memberikan bonus hingga jutaan rupiah, raih kesempatan terbaik kamu dalam tournament poker di dewapoker, ayo.. gabung bersama Dewapoker online dan dapatkan hadiah jutaan rupiah.
ReplyDeleteMaksimalkan skill bermain poker dewa anda setiap hari dengan cara bermain di situs resmi Dewa Poker. Dewa Poker menyediakan banyak pilihan game poker online maupun Dewa Poker Online yang bisa anda jadikan sebagai tempat melatih skill bermain Dewapoker anda. Anda cukup mendaftar di link alternatif daftar Dewapoker 2019 dan anda akan diberikan 1 ID Dewa Poker Online untuk anda gunakan bermain di semua situs remsi dewa poker. Silahkan bergabung dengan kami di situs poker online terbaik persembahan Dewapoker. Menangkan kesempatan menjadi jutawan dengan mendapatkan progressive jackpot Dewa Poker yang memiliki total hadiah hingga ratusan juta rupiah. Jangan ragu bermain di Dewapoker, karena Dewa Poker Asia merupakan situs poker resmi Indonesia, Dewapoker situs poker online terpercaya
Dibandingkan dengan kemampuan zoom optik kamera DSLR, kualitas gambar yang diperbesar secara digital belum kompetitif, dan kebanyakan masyarakat berpendapat bahwa mekanisme dan optik kompleks kamera yang berukuran besar tidak akan dapat digantikan dengan algoritme cerdas dan kamera perangkat seluler yang jauh lebih ringkas.
ReplyDeleteSitus judi online sudah sangat terkenal di Indonesia, banyak situs judi online yang bermunculan membuat para pejudi bersemangat untuk mencoba mendaftar di situs tersebut. Namun anda juga perlu mewaspadai dan mencari tahu situs judi online yang ingin anda mainkan tersebut. Karena banyak situs judi online yang menipu para membernya, belum lagi tidak semua agen judi online memberikan kenyamanan dan pengalaman bermain jdui yang membuat anda seperti pejudi profesional. Maka dari itu saya merekomendasikan Agen Judi Online Indonesia 2019 Terbaik :
dewapoker
dewa poker
poker88
poker online
capsa
Merekonstruksi detail halus sangat sulit karena foto digital sudah tidak lengkap — mereka telah direkonstruksi dari informasi warna parsial melalui proses yang disebut demosaicing.
ReplyDeleteJika anda memiliki keahlian dan kemampuan untuk bermain judi namun masih takut untuk mencoba situs judi online karena banyaknya kasus penipuan, kami akan merekomendasikan situs judi online teraman dan terpercaya untuk anda. Saya menjamin agen judi online yang akan saya rekomendasikan aman dan terpercaya, belum lagi dengan adanya bonus saat pertama kali mendaftar dan bonus setiap minggunya yang akan di dapatkan menjadikan anda merasa yakin untuk mendaftarkan diri anda dan memainkannya di Agen Judi Online Terpercaya Indonesia 2019 :
judi bola
togel hk
togel hongkong
judi bola
capsa
Yorulan bir erkeğin zorlaya zorlaya porno videosu tecavüz porno yaparaktacizde bulunmaktadırlar.
ReplyDeleteبهترین و سریع ترین روش درمان بواسیر بانوان با لیزر بواسیر بانوان در کلینیک لیزر شفا
ReplyDelete