Đề tài Thuật toán nén LZW

Lời nói đầu Ngày nay, cùng với sự phát triển không ngừng của khoa học và công nghệ thì máy tính đóng vai trò không thể thiếu trong cuộc sống xã hội loài người. Việc trao đổi thông tin của con người trong tất cả các ngành, các lĩnh vực của đời sống ngày càng trở nên cấp thiết và quan trọng, chính vì thế mà các thiết bị thông tin mới liên tục ra đời nhằm đáp ứng các yêu cầu này. Tuy nhiên, vì một số phần mềm đòi hỏi rất nhiều bộ nhớ để hoạt động trao đổi thông tin nên người ta đã nghĩ ra một phương pháp nhằm giải quyết vấn đề này, đó là phương pháp nén dữ liệu mà vẫn bảo toàn thông tin. Nén dữ liệu là một kỹ thuật quan trọng trong rất nhiều lĩnh vực khác nhau. Chính nhờ có kỹ thuật nén dữ liệu mà ngày nay chúng ta có những phương tiện truyền thông hiện đại phục vụ cho cuộc sống như truyền hình cáp, điện thoại, thư điện tử ... và rất nhiều khía cạnh khác. Do đó kỹ thuật nén dữ liệu ngày càng được quan tâm và phát triển nhiều hơn. ở Việt Nam, hầu hết các trường Đại học đều quan tâm đến việc nén dữ liệu và điều này được thể hiện ở việc đưa kỹ thuật nén trở thành môn học chính thức trong giai đoạn chuyên ngành . Trong phạm vi môn học “ Mã - mã nén” . Tôi đưa ra bài phân tích trình LZW 15 nhằm mô phỏng thuật toàn kỹ thuật nén dữ liệu. Tuy nhiên do trình độ còn hạn chế, thời gian và kinh nghiệm chưa nhiều, nên bài phân tích này không thể tránh khỏi sự sai sót trong quá trình phân tích. Do vậy tôi rất mong được sự quan tâm tham gia góp ý Thầy Cô cũng như cùng toàn thể các bạn Sinh Viên để bài phân tích này rõ dàng hơn. Cuối cùng Em xin chân thành cảm ơn thày Nguyễn Lê Anh đã hướng dẫn và giảng dạy Em trong thời gian qua. Thuật toán nén LZW Bước 1 Cắt văn bản mới thành các đoạn copy nếu bảng chữ cái có m chữ thì các chữ cái là m đoạn copy đầu tiên được đánh số từ 0 đến m-1. Bước 2 Bỏ tất cả phần chữ thu được mã nén. Lưu ý rằng các đoạn copy lần lượt được tạo ra và phần số của nó luôn nhỏ hơn số hiệu cột mà nó đứng. Thuật toán giải nén LZW. Bắt đầu là các cột đầu tiên (trong ví dụ là cột thứ 2) lặp lại thao tác sau cho đến hết. Lấy hai số liên tiếp của bản mã ví dụ là X, Y thay nó về dạng X+? và Y+$. Trong đó kí tự đầu tiên của Y+$ là kí tự cuối cùng của X+?. Dấu ? và $ là thay cho một kí tự chưa biết. Vì X và Y không thể lớn hơn chỉ số cột mà nó đứng cho nên chúng ta hoàn toàn tìm được giá trị đoạn copy ứng với cột có chỉ số X, Y và thay đoạn copy vào X+? và Y+$ tương ứng. Giá tri ? là kí tự đầu của Y+$ cho nên luôn luôn xác định. Như thế chúng ta tìm được X+?. Ví dụ. Nén theo LZW 0 a 1 b Bước 1 aabababaaababb thay ađ0 được 0abababaaababb từ điển đoạn copy mới aabababaaababb 0 a 1 b 2 aa 0+a Bước 2 aabababaaababb thay ađ0 được 00bababaaababb từ điển 0 a 1 b 2 aa 0+a 3 ab 0+b đoạn copy mới aabababaaababb Bước 3 00bababaaababb thay bđ1 được 001ababaaababb từ điển 0 a 1 b 2 aa 0+a 3 ab 0+b 4 ba 1+a 5 aba 3+a đoạn copy mới aabababaaababb Bước 4 001ababaaababb thay abđ3 được 0013abaaababb từ điển đoạn copy mới aabababaaababb aabababaaababb 0 a 1 b 2 aa 0+a 3 ab 0+b 4 ba 1+a 5 aba 3+a 6 abaa 5+a Bước 5 0013abaaababb thay abađ5 được 00135aababb từ điển đoạn copy mới aabababaaababb 0 a 1 b 2 aa 0+a 3 ab 0+b 4 ba 1+a 5 aba 3+a 6 abaa 5+a 7 aab 2+b Bước 6 00135aababb thay aađ2 được 001352babb từ điển đoạn copy mới aabababaaababb 0 a 1 b 2 aa 0+a 3 ab 0+b 4 ba 1+a 5 aba 3+a 6 abaa 5+a 7 aab 2+b 8 bab 4+b Bước 7 001352babb thay bađ4 được 0013524bb từ điển đoạn copy mới aabababaaababb Thuật toán LZW Trong LZW thì token chỉ có index. Để làm việc này, từ điển khi được khởi tạo đã gồm tất cả các ký tự đơn lẻ cho nên nó luôn được tìm thấy trong từ điển mặc dù có thể trước đó chưa xuất hiện trong văn bản. Thuật toán nén cho LZW: Khi mới bắt đầu, từ điển đã gồm tất cả các ký tự đơn lẻ. Xâu hiện tại bắt đầu có độ dài 1. Mỗi khi đọc thêm 1 ký tự thì nó được thêm vào xâu hiện tại. Nếu xâu hiện tại còn trùng với một trong các phrase đã có thì quá trình cứ tiếp tục. Khi không có phrase trong từ điển trùng với xâu hiện tại nữa thì : chúng ta cho ra index là chỉ số xâu trước đó (không kể ký tự vừa đọc vào) trong từ điển. thêm xâu hiện tại (bao gồm cả ký tự vừa đọc vào) vào trong từ điển. string1[0]=getc(input); string1[1]=’\0’; while (!feof(input)) { character=getc(input); if in_dictionary(string1+character) {string1=string1+character;} else { code=look_up_dictionary(string1); output_code(code); add_to_dictionary(string1+character); string1[0]=character; string1[1]=’\0’; } code=look_up_dictionary(string1); output_code(code); bắt đầu một xâu mới bằng ký tự vừa đọc vào. Pseudocode nén của LZW: Hai lệnh cuối cùng là để xử lý khi hết file, lúc đó chưa có phrase mới nên không có lệnh add_to_dictionary(). Cột đầu tiên là string1 (biến của lệnh add_to_dictionary) bỏ bớt đi ký tự đầu (ký tự này có do các lệnh string1[0]=character; string1[1]=’\0’; ở phần else {} của bước trước), đây thực chất là các ký tự đã được đọc bởi lệnh character=getc(input) . Cột thứ hai là index của phrase trong từ điển (ở đây khi phrase chỉ có 1 ký tự thì chúng ta sử dụng chính ký tự này thay cho index, đúng ra là phải dùng hàm ascii (ký tự)). Cột thứ 3 là biến (string1 + character) trong lệnh add_to_dictionary (string1 + character) kèm theo index của nó trong từ điển. Ví dụ: Mỗi dòng của bảng sẽ ứng với một lần thực hiện vòng lặp while (!feof(input)) (trừ dòng đầu tiên). Input String: “ WED WE WEE WEB WET” Từ thuật toán nén ta thấy rằng: index của string1 ở bước hiện tại được đưa vào tệp nén. phrase được thêm vào từ điển là string1 ở bước hiện tại + character, trong đó character là ký tự đầu của string1 ở bước sau Thuật toán giải nén như sau: Đầu tiên, đọc một index vào và tìm phrase tương ứng với nó trong từ điển. Đưa phrase này ra tệp (string1 ở bước trước). Vòng lặp: đọc index tiếp theo, tra từ điển để tìm string1 ở bước hiện tại, đưa nó vào tệp giải nén thêm (string1 ở bước trước + ký tự đầu của string1 ở bước hiện tại) vào từ điển Trong đoạn pseudocode sau thì string2 chính là ‘string1 ở bước trước’: string2[0]=input_bits(); string2[1]=’\0’; putc(string2[0], output); while ((code=input_bits() )!=EOF) { string1=dictionary_lookup(code); fputs(string1, output); add_to_dictionary(string2+string1[0]); strcpy(string2, string1);} Ví dụ của việc giải nén: Trong bảng sau đây, mỗi dòng sẽ tương ứng với một lần thực hiện vòng lặp while{}, riêng dòng đầu tiên là do các lệnh string2[0]=input_bits(); string2[1]=’\0’; putc(string2[0], output); Cột thứ nhất (I) là kết quả của lệnh code =input_bits(); Cột thứ hai (II) là kết quả của các lệnh string1=dictionary_lookup(code); fputs(string1, output); Cột thứ ba (III) là biến string2 trong lệnh add_to_dictionary(string2+ string1[0]). Nó bằng với cột thứ hai (string1) ở bước trước do lệnh strcpy(string2, string1). Cột thứ tư (IV) là ký tự đầu của cột thứ II (string1[0]). Cột thứ năm (V) là biến (string2+string1[0]) trong lệnh add_to_dictionary(string2+ string1[0]). Input Codes: “ WEDEBT” Một điều cần chú ý khi nén bằng LZW: nó thêm phrase vào từ điển trước khi toàn bộ phrase này được nén, cụ thể là ký tự cuối của phrase chỉ được xử lý ở lần lặp sau. Nếu vì một lý do nào đó mà trình nén sử dụng ngay lập tức phrase này thì khi giải nén sẽ có vấn đề là gặp phải code của một phrase mà phrase này lại chưa xuất hiện trong từ điển (phrase này còn thiếu một ký tự cuối là ký tự đầu của xâu được giải mã tiếp theo. Rất tiếc là điều này có thể xảy ra. Điều này chỉ xảy ra khi trong dữ liệu vào có đoạn CHARACTER.STRING.CHARACTER.STRING.CHARACTER. Trong ví dụ sau CHARACTER=’I’, STRING=’WOMBAT’. Giả sử xâu ‘IWOMBAT’ đã có trong từ điển (mã là 300) còn ‘IWOMBATI’ thì chưa có. Như vậy khi gặp đoạn dữ liệu‘IWOMBATIWOMBATI’ trình nén sẽ cho ra mã 300 và thêm ‘IWOMBATI’ vào từ điển(với mã 400 chẳng hạn). Và sau đó nó sử dụng ngay mã 400 cho đoạn tiếp theo, tức là cả đoạn dữ liệu trên sẽ cho ra mã . Bây giờ chúng ta hãy theo dõi quá trình giải nén. Sau khi thay bằng ‘IWOMBAT’ thì trình giải nén gặp mã 400. Nhưng khi đó trong từ điển của trình giải nén còn chưa có phrase ‘IWOMBATI’ vì còn thiếu chữ‘I’ ở cuối. Cho nên trong đoạn pseudocode trên, lệnh string1=dictionary_lookup(code) không phải lúc nào cũng thành công. Nhưng nó cũng chỉ không thành công trong trường hợp gặp phải dữ liệu có dạng như vừa mô tả, vì để tạo thành pharase mới trong từ điển chúng ta cũng chỉ thiếu có 1ký tự cuối và ký tự này xuất hiện ở ngay đầu của đoạn dữ liệu tiếp theo. Cho nên chúng ta cần phải sửa lại như sau: old_string[0]=input_bits(); old_string[1]=’\0’; putc(old_string[0], output); while ((new_code=input_bits())!=EOF) { new_string=dictionary_lookup(new_code); if (new_string==NULL) { strcpy(new_string, old_string); append_character_to_string(new_string, new_string[0]); } fputs(new_string, output); append_character_to_string(old_string, new_string[0]); add_to_dictionary(old_string); strcpy(old_string, new_string); } Chương trình LZW15: /* LZW15V.C : realization of Lempel-Ziv*/ #include "bitio.c" void usage_exit(char *prog_name); void CompressFile(FILE input, BIT_FILE *output, int argc, char *argv[]); void ExpandFile(BIT_FILE *input, FILE *output, int argc, char *argv[]); unsigned int decode_string(unsigned int count, unsigned int code); unsigned int find_child_node(int parent_code, int child_character); void InitializeStorage(void); void InitializeDictionary(void); char *CompressionName="LZW 15 Bit Variable Rate Encoder "; char *Usage="in-file out-file \n\n"; void usage_exit(char *prog_name) { char *short_name; char *extension; short_name = strrchr(prog_name,'\\'); if (short_name == NULL) short_name=strrchr(prog_name,':'); if (short_name!= NULL) short_name++; else short_name=prog_name; extension=strrchr(short_name,'.'); if (extension != NULL) *extension='\0'; printf("\nUsage : %s %s \n",short_name,Usage); exit(0); } /*===============================*/ #define BITS 15 #define MAX_CODE ((1<<BITS)-1) #define TABLE_SIZE 35023L #define TABLE_BANKS ((TABLE_SIZE >> 8)+1) #define END_OF_STREAM 256 #define BUMP_CODE 257 //Mã dánh khi nào thì tăng độ dài của từ mã #define FLUSH_CODE 258 #define FIRST_CODE 259 #define UNUSED -1 struct dictionary { int code_value; int parent_code; char character; } *dict[TABLE_BANKS]; #define DICT(i) dict[i>>8][i & 0xff] char decode_stack[TABLE_SIZE]; unsigned int next_code; int current_code_bits; unsigned int next_bump_code; void InitializeDictionary(void) { unsigned int i; for(i=0;i<TABLE_SIZE;i++) DICT(i).code_value=UNUSED; next_code=FIRST_CODE; putc('F',stdout); //Báo hiệu khởi đầu hay khởi đầu lại từ điển. current_code_bits=9; //Mã hiện tại. next_bump_code=511; } /*===============================*/ void InitializeStorage(void) //Thủ tục cấp phát bộ nhớ. { int i; for(i=0;i<TABLE_BANKS;i++) { dict[i]=(struct dictionary *) calloc(256,sizeof(struct dictionary)); if (dict[i]==NULL) fatal_error("Error allocating dictionary space"); } } /*==============================*/ void CompressFile(FILE *input,BIT_FILE *output,int argc,char *argv[]) { int character; int string_code; unsigned int index; InitializeStorage(); InitializeDictionary(); //ký tự đầu tiên được đọc vào. if ((string_code=getc(input))==EOF) string_code=END_OF_STREAM; while((character=getc(input))!=EOF) //Bắt đầu vòng lặp. { index=find_child_node(string_code,character); if(DICT(index).code_value!=-1) string_code=DICT(index).code_value; else { Tạo thêm 1 đỉnh ứng với phrase mới trong từ điển và gán các giá trị cần thiết. Ghi string_code vừa tìm được ra tệp và bắt đầu việc tìm mới Phần xử lý khởi đầu lại từ điển. Phần thay đổi độ dài từ mã DICT(index).code_value=next_code++; DICT(index).parent_code=string_code; DICT(index).character=(char)character; OutputBits(output,(unsigned long)string_code,current_code_bits); string_code=character; if(next_code >MAX_CODE) { OutputBits(output,(unsignedlong)FLUSH_CODE,current_code_bits); InitializeDictionary(); } else if (next_code > next_bump_code) { OutputBits(output,(unsigned long)BUMP_CODE,current_code_bits); current_code_bits++; next_bump_code <<= 1; next_bump_code |= 1; putc('B',stdout); } } } OutputBits(output,(unsigned long)string_code,current_code_bits); OutputBits(output,(unsigned long)END_OF_STREAM,current_code_bits); while (argc-- >0) printf("Unknown argument :%s\n",*argv++); } /*======================*/ void ExpandFile(BIT_FILE *input,FILE *output,int argc,char *argv[]) { int new_code; int old_code; int character; unsigned int count; Thực hiện một số lệnh khởi tạo InitializeStorage(); while (argc-->0) printf("Unknown argument:%s",*argv); for(;;) { InitializeDictionary(); old_code=(unsigned int)InputBits(input,current_code_bits); if (old_code==END_OF_STREAM) return; character=old_code; putc(old_code,output); for(;;) { new_code=(unsigned int)InputBits(input,current_code_bits); if (new_code==END_OF_STREAM) return; //Nếu (new_code==END_OF_STREAM) thì gọi intializeDictionnary() để gán lại từ điển. if (new_code==FLUSH_CODE) break; if (new_code==BUMP_CODE) //Nếu (new_code==BUMP_CODE) thìđộ dài từ mã được tăng bằng lệnh: current_code_bits++ { current_code_bits++; putc('B',stdout); continue; } //Nếu gặp phải mã chưa xuất hiện trong từ điển thì xử lý như sau: if (new_code >= next_code) { decode_stack[0]=(char)character; //Trong trường hợp còn lại chúng ta gọi code_string() để xử lý. count=decode_string(1,old_code); } else count=decode_string(0,new_code); character=decode_stack[count-1]; while(count>0) putc(decode_stack[--count],output); DICT(next_code).parent_code=old_code; DICT(next_code).character=(char)character; next_code++; old_code=new_code; } } } /*==============================*/ unsigned int find_child_node(int parent_code,int child_character) { unsigned int index; int offset; index=(child_character << (BITS-8)) ^ parent_code; if (index==0) offset=1; else offset=TABLE_SIZE-index; for (;;) { if (DICT(index).code_value==UNUSED) return((unsigned int)index); if (DICT(index).parent_code==parent_code && DICT(index).character==(char)child_character) return(index); if (index >= offset) index-=offset; else index+=TABLE_SIZE-offset; } } /*=========================================*/ unsigned int decode_string(unsigned int count,unsigned int code) //Thủ tục trả lại số ký tự của phrase. { while(code>255) { decode_stack[count++]=DICT(code).character; code=DICT(code).parent_code; } decode_stack[count++]=(char)code; return(count); } /*===================*/ Chúng ta tăng kích thước của từ điển lên tới 15 bit. Nhưng không phải mọi code đều dùng15 bit để mã. Chúng ta sử dụng 9 bit cho 512 phrase đầu (từ 0 đến 511), 10 bit cho các phrase từ 512 đến 1023, và cứ thế tiếp tục. Như vậy cần thêm một ký tự đặc biệt là BUMP_CODE để đánh dấu khi nào thì tăng độ dài của từ mã. Biến unsigned int next_bump_code được sử dụng để theo dõi việc này. Độ dài từ code ở biến current_code_bits. Một cải tiến thứ hai chúng ta đưa vào để xử lý khi từ điển đã lớn hết cỡ. Trong trường hợp này chúng ta cho ra một ký tự đặc biệt là FLUSH_CODE. Khi đó sẽ xây dựng từ điển lại từ đầu. Trong chương trình này, chúng ta chia từ điển ra TABLE_BANKS khoảng, mỗi khoảng có 256 phrase và sử dụng macro #define DICT(i) dict[i>>8][i & 0xff] để xử lý index. Thủ tục void InitializeDictionary(void) gồm các lệnh: for(i=0;i<TABLE_SIZE;i++) DICT(i).code_value=UNUSED; next_code=FIRST_CODE; putc('F',stdout); // báo hiệu khởi đầu hay khởi đầu lại từ điển current_code_bits=9; next_bump_code=511; Thủ tục void InitializeStorage(void) để cấp phát bộ nhớ: for(i=0;i<TABLE_BANKS;i++) { dict[i]=(struct dictionary *) calloc(256,sizeof(struct dictionary)); if (dict[i]==NULL) fatal_error("Error allocating dictionary space"); } Thủ tục void CompressFile(FILE *input,BIT_FILE *output,int argc,char *argv[]) giống như ở chương trình LZW12, nhưng có thêm phần xử lý khởi đầu lại từ điển: if(n ext_code >MAX_CODE) { OutputBits(output,(unsigned long)FLUSH_CODE,current_code_bits); InitializeDictionary(); } và phần thay đổi độ dài từ mã: if (next_code > next_bump_code) { OutputBits(output,(unsigned long)BUMP_CODE,current_code_bits); current_code_bits++; next_bump_code <<= 1; next_bump_code |= 1; putc('B',stdout); } Thủ tục void ExpandFile(BIT_FILE *input,FILE *output,int argc,char *argv[]) giống như trong chương trình LZW12 nhưng cũng có 2 thay đổi. Nếu (new_code == FLUSH_CODE) thì sẽ gọi InitializeDictionary() để gán lại từ điển. Thứ hai là nếu (new_ code == BUMP_CODE) thì độ dài từ mã được tăng lên bằng lệnh current_code_bits++. Các thủ tục unsigned int find_child_node(int parent_code,int child_character) và unsigned int decode_string(unsigned int count,unsigned int code) giống như ở LZW12. while(code>255) { decode_stack[count++]=dict[code].character; code=dict[code].parent_code; } decode_stack[count++]=(char)code; return(count); Sơ đồ phụ thuộc của các thủ tục trong LZW15 CompressFile InitializeDictionary decoding_string ExpandFile InitializeStorage find_child_node Ví dụ trình nén Lzw /* Tcc –mh LZW15VCO.C */ /* LZW15VCO.C: to compress file by Lempel-Ziv-Welch 15 bit*/ #include "lzw15v.c" int main(int argc,char *argv[]) { BIT_FILE *output; FILE *input; setbuf(stdout,NULL); if (argc < 3) usage_exit(argv[0]); input=fopen(argv[1],"rb"); if (input==NULL) fatal_error("Error opening %s for input\n",argv[1]); output=OpenOutputBitFile(argv[2]); if (output==NULL) fatal_error("Error opening %s for output\n",argv[2]); printf("\nCompressing %s to %s\n",argv[1],argv[2]); printf("Using %s\n",CompressionName); argc-=3; argv+=3; CompressFile(input,output,argc,argv); CloseOutputBitFile(output); fclose(input); argv-=3; print_ratios(argv[1],argv[2]); return(0); } Ví dụ trình tởi nén Lzw /* Tcc –mh LZW15VEX.C */ /*LZW15VEX.C */ #include "lzw15v.c" int main(int argc,char *argv[]) { FILE *output; BIT_FILE *input; setbuf(stdout,NULL); if (argc < 3) usage_exit(argv[0]); input=OpenInputBitFile(argv[1]); if (input==NULL) fatal_error("Error opening %s for input\n",argv[1]); output=fopen(argv[2],"wb"); if (output==NULL) fatal_error("Error opening %s for output\n",argv[2]); printf("\nExpanding %s to %s\n",argv[1],argv[2]); printf("Using %s\n",CompressionName); argc-=3; argv+=3; ExpandFile(input,output,argc,argv); CloseInputBitFile(input); fclose(output); putc('\n',stdout); return(0); }