Asosiy tushunchalari jumlasiga bit, entropiya va kodlash kiradi. Entropiya axborotning o‘rtacha miqdorini o‘lchaydi va bu axborotning noaniqligi bilan bog‘liqdir. Kodlash jarayoni axborotni samarali shaklda uzatishga va saqlashga imkon beradi