14bit raw에 대한 질문글을 보다가 답변에 어느분이 무손실 압축이라도 화질 저하가 발생할 수 있다고 언급한 것을 보았다. http://www.slrclub.com/bbs/vx2.php?id=nikon_d1_forum&page=&no=3056358

그 분이 구체적으로 언급한 예는 JPG 100% 화질인데, JPG는 압축하는 과정에서 RGB 공간에서 YCrBr 공간으로의 변환이 일어나기 때문에 화질 100% 설정이라도 이 색 공간 변환 과정에서 화질 저하가 발생 할 수 있다는 것이다.

jpeg은 손실 압축 방식이니 그렇다 쳐도 raw의 무손실압축과 압축 안한거랑 최종적으로 눈에 보이는 결과물은 똑 같을 거라 생각하고 있었는데 실제 테스트를 해 보고 당황 했다.

#1. nef – 무손실압축 on

#2. nef – 압축안함

정말 다르다. nef의 raw 저장 옵션에서 무손실 압축과 압축안함으로 각각 찍어 viewNX에서 읽은 화면을 캡처한 것이다. 아래쪽 압축 안함 옵션으로 찍은 이미지가 살짝 더 어둡고 화이트밸런스도 약간 누르스름하다. 여러장을 찍어 봤는데 공통적인 점은 무손실압축을 한 버전이 압축 안함 버전보다 밝고 화이트 밸런스가 마젠타끼가 조금 있는 것이다. 느낌상, JPG류의 데이터 손실이라기 보다는 암부를 좀 더 밝게 계조를 노멀라이즈하고 화이트 밸런스를 살짝 조정을 하여 보다 보기 좋은 이미지로 리터칭한 느낌이다.

예전에 개인적인 용도로 맥용 액자 프로그램을 만들때 exif 정보를 읽기 위해 exif 관련 라이브러리를 뒤지다가 니콘의 nef 포맷이 tiff에 기반한 것이라는 걸 알게 됐었다. http://www.sno.phy.queensu.ca/~phil/exiftool/#supported

그렇다면 nef가 아니라 tiff로 저장을 하면 어떻게 될까.

#3. tiff-RGB – 무손실 압축

#4. tiff-RGB – 압축 안함

이미지 사이즈를 L(4256 x 2832) 로 설정했고 무손실 압축 버전이나 압축 안함 버전이나 용량은 35.8 MB로 같다. 그런데 마찬가지로 압축 안함 버전의 화이트 밸런스가 좀 더 누르스름하고 어둡다. 역시 압축안함 버전이 좀 더 다듬어지지 않은 느낌이랄까. 게다가 이 tiff버전은 nef 버전보다 훨씬 덜 다듬어진 느낌이다. 예전에 니콘 LS-30으로 필름 스캔할 때의 기억을 돌이켜 보면, 스캐너가 만들어낸 원본 tiff 파일은 화이트밸런스가 안맞고 컨트라스트가 약하고 계조가 어둡거나 밝은 쪽으로 치우쳐져 있었다. 그래서 필름 스캔으로 얻은 이미지는 항상 후보정을 해야 해서 필름 스캔은 우스개 소리로 노가다 무한 삽질이라는 소리를 많이 했었다. 압축 안함 버전의 nef를 보다가 이 압축 안함 버전의 tiff를 보고 있으니 예전 필름 스캐너가 만들어낸 원본 tiff를 보는 것 같은 느낌이 더욱 강하게 든다. 물론 그때의 LS-30 tiff 보다 D700의 tiff가 백배는 더 훌륭하다. 스캔받은 이미지는 필름의 스크래치와 먼지가 자글자글….

이 니콘 바디의 이미지 프로세싱 절차가 CCD의 RGB 신호를 tiff 로 받아서 nef로 변환을 하는지 아니면 CCD의 RGB를 바로 nef로 저장하는지 모르겠지만, CCD의 RGB데이터를 어느정도 리터칭을 해서(설마 필름스캐너 수준의 raw를 그대로 주겠는가, 그렇다면 사용자들이 사진기 뒷면의 리뷰 버튼을 눌러 보고 쓰레기라고 욕을 해댈 것이다) raw를 만들 것이다. 그리고 nef와 무손실 압축의 경우 여기서 각각 한번 더 리터칭을 하는 것 같다는 생각이 든다. 즉 바디의 저장 옵션을 jpg로 선택할때 바디가 리터칭을 하는 그 과정이 raw의 무손실압축 옵션에도 그 정도는 약하지만 그대로 적용이 되는게 아닌가 하는 것이다.

아래는 가장 리터칭이 많이 된 것부터 덜 된 것이라 느껴지는 순으로 위의 네 장의 이미지를 나열 해봤다.

#5. nef – 무손실압축 on

#6. tiff-RGB – 무손실압축 on

#7. nef – 압축안함

#8. tiff-RGB – 압축안함

이 네장의 이미지를 다운받아 한장씩 차례로 보면 그 차이가 좀 더 느껴질 것이다. #6 이미지가 아주 미세하게 구도가 살짝 다르지만, 여러장의 다른 구도의 사진을 찍어 본 결과 무손실압축과 압축안함에 대한 위의 경향은 바뀌지 않았으므로 미세한 구도의 차이에 따른 화이트밸런스의 차이는 무시해도 좋을 것이다. 메뉴 버튼을 누르는 힘이 좀 살짝 들어가는 바람에 사진기가 아주 살짝 움직였다.

d700 바디에 들어있는 raw 무손실압축 알고리즘이 JPG와 같은 방식이라면 위의 링크글의 답변 하신 분이 언급한 대로 여기서도 마찬가지로 공간 변환이 일어났을 것이고 그 과정에서 손실되는 데이터가 발생할 수도 있을 것이다. 하지만 거기에 리터칭까지 됐다는 느낌이 강하게 든다. 여기에 저장 옵션을 JPG FINE으로 설정한 이미지를 끼워넣는다면 현재 1등인 nef – 무손실압축 방식 위 가장 첫번째 자리로 올라갈 것이다.

사실 위의 네 장 중 어느 것이 가장 많은 유효 정보를 담고 있는지는 모르겠다. 이왕이면 더 많은 정보를 담고 있는 쪽이 후보정 하는 입장에서 유리하지만, 개인적으로는 어느정도 기본적인 리터칭이 이미 되있어 보이는 nef 무손실압축 쪽이 작업양이 줄어 좀 더 편할것 같기도 하다. 또한 이미지 데이터량에 따른 연사 한계도 각각 다르므로 각자 판단에 맡겨야 할 부분인 듯 싶다. 참고로 내 16G transcend UDMA 400X CF 메모리에서는 tiff든 nef든 압축안함 쪽이 약 13장의 연사를 할 수 있었고, 무손실압축 옵션을 선택하면 약 15장 가량의 연사를 할 수 있었다. 프로세서의 데이터 프로세싱 속도보다 압축안한 상태의 데이터 량에 대한 저장장치인 메모리카드의 쓰기 속도가 병목이 되는 걸로 보인다. 이 연사 량의 격차는 속도가 빠른 메모리 카드를 사용하면 더 벌어지지 않을까 싶다. 물론 tiff의 경우 이미지 크기를 L(4256 x 2832)이가 아니라 M이나 S를 선택하게 되면 연사량이 훨씬 늘어난다.

이 글은 개인적인 용도로 작성하는 것이지만, 여기에 포함되어 있는 추측들로 인해 누군가가 잘못된 정보나 선입견을 갖게 되진 않을까 하는 우려도 있다. 이 니콘바디에 들어있는 이미지프로세싱의 무손실압축 알고리즘이 무엇인지도 궁금하고 어느 방식의 이미지가 가장 많은 데이터를 담고 있을지도 궁금하다. 혹시 이 궁금증의 답을 알고 계신 분이 이 글을 보신다면 답을 꼭 부탁드리고 싶다. 그리고 혹여 잘못된 부분이 있다면 꼭 알려주시면 감사하겠다.

참, 미러 문제가 생긴 내 사진기는 미러 차저와 조리개를 제어하는 eye-base인가 뭔가 하는 모듈이 이상이 있다며 수리비가 37만원이나 청구됐다. 흔히들 말하는 미러박스가 나갔는데 아니, 이제 2만컷 조금 넘어간 사진기가 그렇게 망가지면 안되는 아녀요? 15만컷은 거뜬하다며!!! 더군다나 무상 보증기간 2년이 지났다고 유상 청구라니 더욱 더 화가 난다!!!