Earticle

여러 분야에서 뛰어난 성능을 보이는 딥러닝은 뉴럴 네트워크의 은닉 계층을 늘려 깊은 네트 워크 구조를 형성할 수 있다. 이에 따라 복잡한 데이터를 쉽게 분류할 수 있으나, 가중치 수 증가로 인해 학습 연산량 및 메모리가 증가한다. 이처럼 많은 연산과 메모리가 필요한 딥러닝은 일반적으로 클라우드 상으로 학습하나, 클라우드는 사용자와의 통신상태가 원활해야 하며 서비스 비용에 대한 부 담감 및 개인정보 유출에 대한 위험성을 가진다. 이러한 문제를 해결하기 위해서 딥러닝을 임베디드 디바이스에 탑재해야 하며 온디바이스 탑재를 위한 네트워크 경량화가 필요하다. 경량화 기법으로는 프루닝 기법과 양자화 기법이 널리 사용되고 있으며 기존 양자화 기법은 비지도 학습 중 하나인 Kmeans를 사용하여 각 계층의 가중치들을 군집화하여 대푯값을 결정한다. K-means 기법에서 군집의 개수를 의미하는 K는 시행착오 방법을 통해 설정해야 하며 이에 따른 오버헤드가 발생한다. 또한, 기 존 양자화 기법은 네트워크 각 계층의 연결 관계를 무시한 채 독립적으로 양자화한다. 우리는 연산 오 버헤드 문제를 해결하기 위해 가중치들의 통계적 정보를 이용한 즉각적 가중치 양자화 기법을 제안하 고 네트워크 각 계층의 의존관계를 고려하여 순차 적으로 양자화함으로써 향상된 학습 성능을 보여준다.

Deep learning, which has excellent performance in various fields, can form deep network structure by increasing hidden layer of neural network. Thus, complex data can be easily classified, but the amount of learning computation and memory increases due to increase of the number of weights. Deep learning, which requires a lot of computation and memory, usually is trained on cloud environments. However, the cloud environment must be maintained in good communication state with user and have burden on service cost and risk of leakage of personal information. To solve this problem, deep learning needs to be learnt on the embedded device, and be light-weighting. Pruning and quantization methods are widely used for the light-weighting. Existing quantization methods usually use K-means, one of the unsupervised learning methods, in order to determine representative values of clustering weights. In the K-means method, the number of groups is set through trial-and-error method, which results in the computation overhead. To alleviate the overhead, we propose an instant weight quantization method using statistical information of weights Also, it can improve learning performance by quantizing sequentially with considering the dependency between layers in the network.

In this paper, we propose a PTQ (Post Training Quantization) static with QO (Quantization Only) technique to efficiently deploy and execute deep learning models. A comparative performance evaluation of PTQ static with QDQ (Quantize and DeQuantize) and the proposed quantization method was conducted using the MNIST (Modified National Institute of Standards and Technology database) dataset and 8- bit quantization. Experimental results indicate that the PTQ static with QO method reduces the size of the model by approximately 33%, increases the inference speed by 1.5 times, and minimizes the accuracy loss, similar to the PTQ static with QDQ method. The proposed PTQ static with QO method offers a significant technical enhancement to facilitate the efficient deployment and execution of AI (Artificial Intelligence) models through the quantization of deep learning models. We have shown that the PTQ static with QO method is a beneficial and efficient approach to decrease the size and computation of deep learning models. This study makes novel contributions to the quantization of deep learning models. The practical potential of the PTQ static with QO method lies in its ability to be more suitably deployed for the purposes of AI hardware.

Automatic vectorization in the field of image processing and recognition is one of development direction. This paper does some relevant researches on satellite cloud image preprocessing, image segmentation, image vector quantization. To improve the effect of noise reduction and preserving image details, this paper puts forward an improved adaptive median filter algorithm; For increasing the speed of image segmentation, this paper puts forward automatic layering algorithm combined with color information. Finally, this paper puts forward automatic vector quantization algorithm based on satellite cloud images and we developed an automatic vector quantization prototype system of satellite cloud images. The research results suggest that our automatic vector quantization algorithm has satellite cloud information automatic extraction function, identification function and vector quantization function.

As the digital information must be stored and recovered in an effective ways, it is necessary to compress data in image coding, wavelet transform and lattice vector quantization are adopted in this paper to improve the compression effective of image coding. We first propose the two dimensional spatial wavelet decomposition of image, and then we present lattice Vector Quantization coding scheme for each image subband, lattice vector quantization can make full use of the correlation between the image wavelet coefficients to remove the information redundancy, and the coding method of lattice quantization can be effective because of applying the symmetries of the lattice. The establishment of rate distortion (RD) model suitable for lattice vector quantization of wavelet image coder is also important for image compression, study shows that the RD performance for the spatial subbands are fitted by an exponential form theoretical model, this yields an analytical solution to the bit rate distribution issue, we explore an effective rate control scheme by using the lagrangian optimization method to distribute the bit rate for the spatial subbands. The experimental results show that the proposed algorithm can achieve better compressing effect with minimum loss.

Efficient quantization methods of the line spectrum pairs (LSP) which have good performances, low complexity and memory are proposed. The adaptive quantization range method utilizing the ordering property of LSP parameters is used in a scalar quantizer and a vector-scalar hybrid quantizer. As the maximum quantization range of each LSP parameter is varied adaptively on the quantized value of the previous order's LSP parameter, efficient quantization methods can be obtained. The proposed scalar quantization algorithm needs 31 bits/frame, which is 3 bits less per frame than in the conventional scalar quantization method with interframe prediction to maintain the transparent quality of speech. The improved vector-scalar quantizer achieves an average spectral distortion of 1 dB using 26 bits/frame. The performances of proposed quantization methods are also evaluated in the transmission errors.

본 논문에서는 디지털 홀로그램을 처리하는 과정에서 필수적으로 발생하는 양자화 과정에 대해 분석하고 최적화된 양자화기를 제안한다. 홀로그램의 압축 표준을 제정하고 있는 JPEG Pleno에서 full complex 홀로그램은 32비트 혹은 64비트의 정밀도를 갖는 복소수로 정의되고, 값의 범위는 홀로그램의 생성 방법 및 객체의 형태에 따라서 매우 다양하다. 이와 같은 높은 정밀도와 넓은 범위를 갖는 데이터는 신호 처리 및 압축 등의 이유로 인해 보다 낮은 정밀도를 갖는 고정소수점 데이터 혹은 정수형 데이터로 변환된다. 또한 다양한 신호처리 과정을 거친 홀로그램 데이터를 SLM에 재생하기 위해서는 SLM의 화소가 표현할 수 있는 값의 정밀도로 근사화된다. 이러한 과정은 양자화를 통한 정규화 과정이라 할 수 있다. 본 논문에서는 높은 정밀도와 넓은 범위의 홀로그램 데이터를 양자화 기법을 이용하여 정규화시키는 방법에 대해 소개하고 최적화된 방법을 제시한다.

In this paper, we analyze the normalization that occurs when processing digital hologram and propose an optimized quantization method. In JPEG Pleno, which standardizes the compression of holograms, full complex holograms are defined as complex numbers with 32-bit or 64-bit precision, and the range of values varies greatly depending on the method of hologram generation and object type. Such data with high precision and wide dynamic range are converted to fixed-point or integer numbers with lower precision for signal processing and compression. In addition, in order to reconstruct the hologram to the SLM (spatial light modulator), it is approximated with a precision of a value that can be expressed by the pixels of the SLM. This process can be refereed as a normalization process using quantization. In this paper, we introduce a method for normalizing high precision and wide range hologram using quantization technique and propose an optimized method.

다시점 영상 부호화 기술은 다시점 카메라로부터 취득된 다수의 영상을 부호화하는 기술로 매우 효율적인 압축 기술이 요구된다. 이를 위해 시점 간 예측 기술을 사용하고 있으나 예측 기법의 개선만으로는 전반적인 압축 성능 향상에는 한계를 보인다. 따라서 본 논문에서는 역양자화기의 성능 개선을 통해 다시점 영상 부호화의 압축 효율을 보다 향상 시키고자 한다. 다시점 영상 부호화는 기본적으로 H.264/AVC를 기반으로 구현되어 있으므로 H.264/AVC의 양자화/역양자화 기법을 그대로 사용하고 있다. 기존 양자화/역양자화 기법의 문제점은 부호화해야 하는 오류 신호들의 확률 분포가 라플라시안 분포를 갖는다는 가정 하에 양자화기와 역양자화기가 설계되어 있어 입력되는 신호가 라플라시안 분포를 따르지 않을 경우 성능이 떨어진다. 이와 같은 오류 신호의 실제 확률 분호와 양자화/역양자화기의 확률 분포 불일치 문제로 인한 압축 효율 저하 문제를 해결하기 위해 본 논문에서는 양자화 계수 분포 기반의 효율적 역양자화 기법을 제안하다. 추가적인 정보의 전송 없이 복호기에 전송된 양자화 계수들을 이용하여 원본 오류 신호의 확률 분포를 예측하고 이를 바탕으로 보다 정확한 역양자화 값을 찾아내어 압축 성능을 개선한다. 다양한 실험 결과 제안하는 알고리듬은 기존 알고리듬에 비해 높은 비트율에서 최대 1.5 dB에서 최소 0.6 dB의 성능향상을 보인다.

Multi-view video coding technology demands the very high efficient coding technologies, because it has to encode a number of video sequences which are achieved from a number of video cameras. For this purpose, multi-view video coding introduces the inter-view prediction scheme between different views, but it shows a limitation of coding performance enhancement by adopting only new prediction method. Accordingly, we are going to achieve the more coding performance by enhancing dequantizer perfermance. Multi-view video coding is implemented basically based on H.264/AVC and uses the same quantization/de-quantization method as H.264/AVC does. The conventional quantizer and dequantizer is designed with the assumption that input residual signal follows the Laplacian PDF. However, it doesn't follow the fixed PDF type always. This mismatch between assumption and real data causes degradation of coding performance. To solve this problem, we propose the efficient de-quantization method based on quantized coefficients distribution at decoder without extra information. The extensive simulation results show that the proposed algorithm produces maximum $1.5\;dB{\sim}0.6\;dB$ at high bitrate compared with that of conventional method.

본 논문에서는 MPEG-4 AAC 표준에 근거하여 개인휴대단말과 같은 모바일 단말의 응용을 위해 연산 복작도를 낮춘 새로운 양자화기 구조를 제안하였다. 기존 MPEG-4 AAC 인코더의 양자화기는 rate control과 distortion control을 동시에 수행하는 순환 이중루프 구조를 갖으며, 높은 연산부담으로 인해 실시간 인코딩 및 시스템의 소비전력을 증가시키는 중요한 요인으로 작용한다. 본 논문에서는 이러한 제약조건을 극복하기 위해 허용 잡음 레벨과 대역별 양자화 잡음을 정합하는 잡음 포락선 정합기법을 제안하였고, 이를 응용하여 낮은 소비전력 실현이 가능한 단일루프 구조의 단순화된 양자화기 구조를 제안하였다. 또한 제안한 양자화기를 적용한 독자적인 구조의 MPEG-4 AAC 인코더를 구현하여 검증 및 성능평가를 수행하였다.

본 논문에서는 JPEG 영상의 오차(PSNR)의 개선을 위해 반올림 양자화와 내림 양자화의 장점을 조합하여 가변 임계값을 갖는 양자화 방법(VTQM: Variable Threshold quantization Method)을 제안하고, 실험에 의해 VTQM의 비트율 대비 PSNR을 표준 JPEG방법의 경우와 비교하였다. VTQM에서는 양자화 방법에 따라 영상의 압축률에 영향을 미치는 영역에서는 압축한 결과값의 길이가 줄어들 수 있도록 임계값을 조정하여 양자화하고, 그 외의 경우에는 원시 영상의 값을 유지하는 방향(반올림)으로 양자화 한다. 그 결과 최대한 화질을 유지하면서 비트율을 감소시킬 수 있다. 몇 개의 샘플 영상에 대한 실험 결과, VTQM은 기존의 반올림과 내림 양자화 방법보다 같은 비트율에서 PSNR이 각각 0.2∼0.3dB, 0.4∼0.5dB 향상되는 것을 보여주었다.

In this Paper VTQM(Variable Threshold quantization Method) is proposed, which enhances PSNR by composing the advantages of round-off and truncation quantization methods. From vast experiments, PSNR's of JPEG images with the method are compared with that of standard JPEG methods. At the boundary which affects the compression ratio, VTQM quantizes with a new threshold to reduce the length of compressed data; otherwise, VTQM employs the round-off quantization method to preserve the original image information. As a result, VTQM reduces bit rate while preserving the image quality. The experimental results show that VTQM enhances PSNR by 0.2∼0.3dB, 0.4∼0.5dB with the same bit rate than those of the traditional truncation and round-off quantization methods, respectively.

본 논문에서는 인간의 시각 특성을 고려한 시각 적응적 DCT 영상 압축 방법이 제안되었다. 인간의 시각 체계의 특성 중 복잡한 영사이나 대비효과(contrast)가 큰 부분에서는 압축과정에서 발생한 왜곡이 쉽게 눈에 인지되지 않는 특성을 갖는 공간적 마스킹(spatial masking)을 이용하여 영상의 질을 어느정도 유지하면서 적응적 압축 방법에 의해 압축율을 보다 높이는 방법을 제시하였다. DCT 변환 블록에서 경계영역 정보를 많이 포함하는 부분을 추출한 후 이 영역은 다른 영역에 비해 복잡도가 더 높고 경계성분의 대비효과가 더 크기 때문에 이 영역의 분산을 취해 이 값에 따라 적응적으로 양자화한다. 실험결과, 제안된 영상 압축 알고리즘은 기존의 시각 적응적 압축 방법보다 좋은 성능을 보이며 특히 고주파 성분을 많이 가진 복잡한 영상에 대하여 높은 압축률을 보였다.

본 논문에서는 칼라 정보 기반 영상 검색에서 양자화 과정을 거치면서 나타나는 문제점의 해결 방안으로 ART2 신경회로망을 이용한 양자화 방법을 제시한다. 영상을 양자화하면 비슷한 칼라를 가진 픽셀이 다른 칼라로 나누어지는 경우가 발생하여 영상 검색 성능을 떨어뜨린다. 따라서 본 논문에서는 양자화를 하기 전에 ART2 신경회로망을 이용하여 영상에 존재하는 여러 칼라들을 클러스터링하여 같은 클러스터 속한 비슷한 칼라의 픽셀들은 같은 칼라로 양자화되도록 하였다. 실험에서 영상 검색에 제안한 방법을 적용하였을 때, 검색의 성능 향상에 도움이 된다는 것을 확인할 수 있었다.

저 사양 HMD(Head Mounted Display)를 사용하는 가상 환경 네비게이션 시스템은 true-color 이미지를 제한 된 색으로 표현 할 때 이미지를 양자화 해야 한다. 그러한 시스템은 고정된 팔래트를 이용하여 이미지를 양자화 한다. 인간의 눈은 시선부분의 색변화에 민감하기 때문에 시선부분의 색을 고려하여 동적으로 팔래트를 생성하고 이를 이용하여 이미지를 양자화 한다면 사용자는 가상 환경을 보다 생동감 있게 느낄 수 있다. 본 논문에서는 사용자가 가상환경을 보다 생동감 있게 느끼게 하기 위한 컬러 양자화 방법을 제안하고 제안 방법을 이용하여 가상환경 네비게이션 시스템을 구성하였다. 네비게이션 시스템은 사용자의 시선이 변할 때 마다 이미지를 양자화 하여 HMD를 통해 사용자에게 양자화된 이미지를 보여준다. 본 논문에서는 제안 방법을 이용한 시스템의 선호도를 조사 하였으며 대부분의 사용자가 제안 방법을 이용한 시스템을 선호 하였다.

A navigation system for virtual environments using low-qualify HMD(head mounted display) must quantize images when the system presents true-color image with restricted number of colors. Such navigation system quantizes an image by using fixed palette. If the system represents an image by using a variable palette which is made considering a region around the viewpoint then user can perceive a virtual environments more vividly because human visual system is sensitive to the colors variation in the region around the viewpoint. In this paper we propose a color quantization algorithm that quantize a region around the viewpoint more finely than other regions at each variation of viewpoint for virtual environments navigation system and compose virtual environments navigation system using proposed algorithm. The system quantizes an image at each variation of viewpoint and shows a quantized image to user through HMD. We tested user preferences for our proposed system and the results show that users preferred our system.

본 논문에서는 새로운 사이드 매치 왜곡 함수를 이용한 적응 FSVQ(Finite State Vector Quantization)방법을 제안한다. 기존의 사이드 매치 왜곡 함수는 블럭 경계 사이의 휘도 천이를 부드럽게 해주고 블럭간의 상관 관계가 높은 평탄 영역에서는 적절한 상태 부호책을 작성할 수 있으나 블럭간의 상관 관계가 낮은 윤곽선 영역에서는 적절한 상태 부호책을 작성할 수 없다. 본 논문에서 제안한 왜곡 함수는 기존의 사이드 매치 왜곡 함수에 영상의 특징을 나타내줄 수 있는 분산 값을 가중치로 사용하여 기존의 사이드 매치 왜곡 함수보다 적절한 상태 부호책을 작성할 수 있도록 한다. 또한 상태를 잘못 예측하였을 경우 이를 정정한 후, 처리하게 함으로써 만족할만한 영상의 질을 얻을 수 있도록 한다.

We introduce an adaptive finite state vector quantization using a new side match distortion function. The conventional side match distortion function can make the gray level transition between the block bounddaries as smooth as possible and proper state codebooks in the flat areas where the spatial correlations are high. But it can't make proper codebooks in the edge areas where the spatial correlations are not high. The proposed distortion function adds the variances which represent the image characteristics to the conventional side match distortion function as weighted values. Then it can select better state codebooks than the conventional side match distortion function. Also if it predicts a wrong state, the proposed quantizer can correct the state. As a result, we can obtain the satisfiable image quality.

In this paper, we present a new JPEG (Joint Photograph Experts Group) compression architecture which compresses still image into fixed size of bitstream to use restricted system memory efficiently. The size of bitstream is determined by the complexity of image and the quantization table. But the quantization table is set in advance the complexity of image is the essential factor. Therefore the size of bitstream for high complexity image is large and the size for low complexity image is small. This means that the management of restricted system memory is difficult. The proposed JPEG encoder estimates the size of bitstream using the correlation between consecutive frames and selects the quantization table suited to the complexity of image. This makes efficient use of system memory.

본 논문에서는 비균일 양자화에 기반을 둔 영상의 질감분석에 널리 이용되고 있는 gray level co-occurrence matrix(GLCM)의 성능개선을 제안하였다. 여기서 비균일 양자화는 평균자승오차의 최소화를 위한 반복계산 기법인 Lloyd 알고리즘을 이용하였다. 이는 영상에서의 비균일 양자화 과정으로 얻어지는 비선형의 명암레벨을 GLCM의 생성에 이용함으로써 행렬의 차원을 감소시켜, GLCM의 생성과 질감특성 파라미터들의 계산에 따른 부하를 줄이기 위함이다. 제안된 기법을 30개의 $120{\times}120$ 픽셀의 256 그레이 레벨을 가진 영상들을 대상으로 적용하여 angular second moment, contrast, variance, entropy, correlation, inverse difference moment 6개의 질감특성 파라미터들을 각각 계산한 실험결과, 양자화를 수행하지 않은 256 레벨 GLCM에 비해 계산시간과 저장 공간에서 개선된 성능이 있음을 확인하였다. 특히 48, 32, 16, 12, 8의 비균일 양자화 레벨 중에서 16일 때 가장 우수한 질감특성분석 성능이 있음을 알 수 있었다.

This paper presents a performance improvement of gray level co-occurrence matrix(GLCM) based on the nonuniform quantization, which is generally used to analyze the texture of images. The nonuniform quantization is given by Lloyd algorithm of recursive technique by minimizing the mean square error. The nonlinear intensity levels by performing nonuniformly the quantization of image have been used to decrease the dimension of GLCM, that is applied to reduce the computation loads as a results of generating the GLCM and calculating the texture parameters by using GLCM. The proposed method has been applied to 30 images of $120{\times}120$ pixels with 256-gray level for analyzing the texture by calculating the 6 parameters, such as angular second moment, contrast, variance, entropy, correlation, inverse difference moment. The experimental results show that the proposed method has a superior computation time and memory to the conventional 256-level GLCM method without performing the quantization. Especially, 16-gray level by using the nonuniform quantization has the superior performance for analyzing textures to another levels of 48, 32, 12, and 8 levels.

간은 인체의 생명을 유지하고 성장할 수 있도록 하는 영양섭취와 매우 밀접한 관계를 가진 중요한 장기이다. 이러한 간의 중요성에도 불구하고 현재 우리나라의 간암 발병률이 세계에서 가장 높은 수치를 기록하고 있으며 이에 따라 간암을 조기 진단하고 예방할 수 있는 방법의 중요성이 확대되고 있다. 따라서 본 논문에서는 영상 의학적 검사 방법 중 하나인 CT 촬영으로 획득된 조영 증강 CT 영상에서 간 영역과 간 종양 영역을 정확히 검출하고 간 종양의 악성도를 판별할 수 있는 방법을 제안한다. 흉부로부터 5mm 간격으로 약 $40\;{\sim}\;50$장 정도로 촬영한 조영 증강 CT 영상에서 명암도와 명암의 분포도를 이용한 양자화 기법과 장기들의 위치 및 형태학적 특징정보, 그리고 흉부와 복부 양방향으로 인접한 CT 영상들의 정보를 분석하여 간 영역을 검출한다. 간 종양 영역은 과혈관성 종양의 특징을 분석하고 간 영역의 검출 방법에 적용하여 추출한다. 추출된 간 종양 영역은 퍼지 기반 SOM 알고리즘을 제안하여 간 종양의 악성도를 분석하는데 적용한다. 제안된 퍼지 기반 SOM 알고리즘은 SOM의 이웃 반경을 동적으로 조정하는데 퍼지 제어 기법을 적용하여 기존의 SOM 알고리즘보다 종양의 악성 정도를 분류하는 정확성을 개선하였다. 제시된 간 영역과 간 종양 검출 및 분석 방법의 결과와 전문의가 진단한 결과를 비교 분석한 결과, 기존의 간 영역 및 간 종양 영역 검출 방법보다 정확성이 향상된 것을 확인할 수 있었다.

암은 한국에서 전체 사망률의 가장 많은 원인 중의 하나이며 이 중 간세포 암은 암에 의한 사망원인 중 성별에 관계없이 위암 다음으로 사망률이 높다. 특히 $40{\sim}60$세까지 중장년 기에서의 간암 발생률은 세계에서 가장 높은 발병률을 보이고 있으며 OECD 국가 중에서 간암 사망률로 최고 수치를 기록하고 있다. 본 논문에서는 조영증강 CT 영상에서 간암을 자동으로 추축하는 방법을 제안하여 전문의를 보조할 수 있는 보조 전문가 시스템으로서의 유용성을 확인하고자 한다. 흉부로부터 5mm 간격으로 약 $40{\sim}50$장 정도 촬영한 조영 증강 CT 영상으로부터 늑골의 정보를 이용하여 장기들의 정보만으로 구성된 내부 영역과 늑골 및 피하지방층, 그리고 배경으로 구성된 외부 영역을 구분한다. 간 영역의 정보가 포함된 내부 영역에서 명암도와 명암의 분포도, 간의 형태 및 위치 정보, 그리고 각 슬라이드를 기준으로 이전 CT 영상과 다음 CT 영상의 정보를 이용하여 간 영역을 추출한다. 간암은 추출된 간 영역에 형태기반 보간법을 적용하여 CT 촬영시 생기는 슬라이드 사이의 5mm 공간정보를 복원한 후, 각 슬라이드를 기준으로 이전 CT 영상과 다음 CT 영상의 정보와 간암이 가지는 명암도 및 형태학적 특정 정보를 이용하여 추출한다. 제안된 간 영역 및 간암 추출 방법을 전문의가 판별한 것과 비교 분석한 결과, 전문의를 보조 할 수 있는 보조 전문가 시스템으로서 효율적임을 확인할 수 있었다.

본 논문에서는 H.264/AVC 동영상 부호화 방식의 양자화 과정 생략을 이용한 고속 방식에 대해 제안한다. 정수 여현 변환을 이용함으로써 발생하는 양자화 과정의 복잡도 감소를 위해 정수 이산 여현 변환 과정 및 양자화 과정의 분석을 통해 양자화 과정생략 조건을 유도하고, 이를 이용하여 압축 효율에 영향 없이 효과적으로 양자화 생략하는 방식에 대해 기술한다. 실험 결과를 통해 제안 방식을 이용하여 컴퓨터 CPU 실행 시간이 약 $10{\sim}25(%)$ 연산량 감소가 있었음을 확인할 수 있었다.

In this paper, we present a determination method of quantization skipping condition for H.264/AVC video encoding standard. In order to reduce the complexity of quantization process that is coming from Integer discrete cosine transform, a quantization skipping condition is derived by the analysis of integer transform and quantization processes. The experimental results show that the proposed algorithm has the capability to reduce the computational complexity of CPU operation time about 10-25(%)

In this paper, we present the method of skipping the quantization for fast video encoding. Based on the theoretical analyzes for the integer transform and quantization in H.264 video coder, we can derive a sufficient threshold under which each quantized coefficient becomes zero. In addition, in order to reduce the complexity of the fast video encoding, complexity is improved, leading to improvement of total encoding time saving for given threshold. The simulation results show the capability of the proposed algorithm.

In this paper, we proposed a postprocessing algorithm for quantization effects reduction in block coded images using the block classification and adaptive filtering. The proposed method consists of classification, adaptive inter-block filtering, and intra-block filtering. First, each block is classified into one of seven classes based on the characteristics of 8${\times}$8 DCT coefficients. Then each block boundary is filtered by adaptive inter-block filters according to the block classification. Finally for blocks which are classified into edge block, intra-block filtering is peformed. Experimental results show that the proposed method gives better results than the conventional methods from both a subjective and an objective viewpoint.