2. Ақпарат көлемін өлшеу
Қазіргі кезде хабар ішіндегі "ақпарат мөлшері" (саны, көлемі) түсінігін анықтау үшін, оның жаңа немесе өзекті екендігіне онша көңіл бөлмей, объектіліер жайында біздің білім деңгейімізді толықтыратын теориялық көзқарастарды негізге алу қалыптасты.
Америка инженері Р. Хартли 1928 ж. ақпарат алу процесін алдын ала берілген ықтималдықтары бірдей N шектеулі хабарлар ішінен бірін таңдау арқылы қарастыруды ұсынды. Ал таңдап алынған хабар ішіндегі I – информация мөлшерін N санының екілік логарифмі ретінде анықтау керек деп тапты.
Хартли формуласы: I = log2N
Мысалы, бірден жүзге дейінгі сандар ішінен бірін кездейсоқ түрде таңдап алу қажет болсын. Хартли формуласы бойынша осы мысал үшін қандай информация көлемі керек екенін табуға болады: I = log2100 > 6,644. Бұдан дұрыс табылған сан жайлы хабардағы информация мөлшері шамамен 6,644 информация бірлігіне тең болатыны шығады.
Осындай есептер үшін екінші бір америка ғалымы Клод Шеннон 1948 ж. таңдап алу ықтималдықтары әр түрлі хабарлар жиыны ішіндегі информация мөлшерін анықтау формуласын ұсынды.
Шеннон формуласы:
Достарыңызбен бөлісу: | 
