Задачи по "Физике"

Зертханалық жұмыс №1

Хартли және Шеннон формулаларын қолданып, ақпарат көлемін анықтау тапсырмаларды шешу.

Мақсаты: ақпарат саны түсінігін енгізу, ақпараттың өлшем бір- ліктерімен таныстыру, ақпарат санын анықтауды, ақпаратты бір өлшем бірлігінен басқа өлшем бірлігіне ауыстыруды үйрету, ақпарат санын анықтаудың тәжірибелік дағдыларын қалыптастыру.

Хартли және Шеннон формулалары

Америкалық инженер Р. Хартли 1928 жылы ақпаратты алу процесін N-ге тең ықтималды хабарламалардан тұратын бір хабарламаны таңдау деп қарастырды, ал таңдалған хабарламада ғы ақпарат I көлемін N екілік логарифмі ретінде анықтаған. Хартли формуласы:

I = log2N.

Мысалы, бірден жүзге дейінгі сандар жиынтығынан бір санды табу керек. Хартли формуласы бойынша осы үшін ақпараттың қандай көлемі қажет екенін анықтауға болады: I = log2100 = 6,644. Яғни дұрыс табылған сан туралы ақпаратта шамамен 6,644 ақпарат бірлігі бар. Енді «ғимарат есігінен бірінші болып әйел шығады» және «ғимарат есігінен бірінші болып ер адам шығады» деген хабарламалардың тең ықтималды болуын не болмауын анықтайық. Бірден бұл сұраққа жауап беруге болмайды. Әңгіме қандай ғимарат екендігіне байланысты. Егер бұл метро станциясы болса, есіктен не әйел, не ер адам шығуы тең ықтималды, ал егер әскери казарма туралы әңгіме болса, ер адамның шығу ықтималдығы жоғары. Осындай есептерді шығару үшін америкалық ғалым Клод Шеннон 1948 жылы ақпарат көлемін анықтайтын басқа формула ұсынды. Шеннон форму ласы:

I = -(p1log2p1 + p2log2p2 + ... + pNlog2pN),

мұндағы pi – i хабарлама N хабарламалар жиынтығынан белгіленгендігі ықтималдығын білдіреді. Егер p1, ..., pN ықтималдықтары тең болса, олардың әрқайсысы 1/N-ге тең және Шеннон формуласы Хартли формуласына ауысады.

Ақпарат көлемін анықтау мысалдары:

1. Кітаптың 100 беті бар; әр бетте 35 жол, әр жолда 50 символ. Кітаптағы ақпараттың көлемін анықтау.

Шешімі: бір бетте 35 x 50 = 1750 байт ақпарат бар. Кітап- тағы барлық ақпараттың көлемі:

1750 x 100 = 175000 байт;

175000 / 1024 = 170,8984 Кбайт;

170,8984 / 1024 = 0,166893 Мбайт.

1. Бір, екі, үш символдан тұратын екілік қатарлардың барлық саны қанша?

Шешімі: бір биттен тұратын екілік қатарлар саны → 21 = 2, 22 = 4, үш биттен → 23 = 8.

Ақпараттың мағыналы өлшемі

Мәліметтегі ақпараттың саны сол хабарды алушы адамға берілетін білімнің көлемін айқындайды. Егер қабылдаушы адам ға хабар түсінікті және жаңалық болып, оның білімін толықтыр- са, ол мағыналы (семантикалық) ақпарат болғаны. Мағыналық тұрғыдан ақпараттың сапасы пайдалы, маңызды, зиянды деп бағалануы мүмкін. Бір ақпаратқа әр адам әр түрлі баға беруі мүмкін. Адам білімінің белгісіздігін екі есе азайтатын хабар 1 бит ақпарат береді. Белгілі бір хабарда N-ге тең ықтималды оқиғалардың біреуінің болғаны туралы мәлімет алынды дейік. Онда хабардағы ақпараттың саны x бит және N саны Хартли формуласымен байланыстырылады: 2х = N. Бұл көрсеткіштік теңдеудің математикалық шешімінің түрі: x = log2N, егер N екінің бүтін дәрежелеріне 2, 4, 8, 16, 32, т.с.с. тең болса, бұл тең- деуді ойша шығаруға болады. Ал егер басқаша болса, ақпарат

саны бүтін шама болмай қалады да логарифмдер кестесін қолдануға тура келеді.

1. Жеребеге тиынды лақтырғанда нәтижесі «елтаңба» түскені туралы хабар 1 бит ақпарат береді. Себебі оқиғаның мүмкін болу саны 2-ге тең («елтаңба» немесе «сан») және екеуі де тең ықтималды. Демек, нәтиже саны         теңде- уін шешкенде х = 1 бит деп шығады. Қорытынды: барлық жағ- дайда екі ықтималды оқиғаның біреуінің болғаны туралы хабар- да 1 бит ақпарат болады.
2. Лоторея барабанында 32 шар бар. Бірінші шыққан нө- мір (мысалы, 15-нөмір) туралы хабарда қанша ақпарат бар?

Шешімі: 32 шардың ішінен кез келген шарды шығару тең ықтималды болғандықтан, шыққан бір нөмір туралы ақпарат көлемі теңдеумен табылады: 2х = 32. Бірақ 32 = 25, демек, х = 5 бит болады. Жауабы нақты қандай нөмір шыққанына тәуелді емес екені айқын.

1. Сүйек ойынында алты қырлы кубик қолданылады. Кубик- тің әрбір лақтыруынан ойыншы қанша бит ақпарат алады?

Шешімі: кубиктің әр қырының түсуі тең ықтималды. Сон- дықтан кубикті бір лақтырғандағы нәтижесіндегі ақпарат саны 2х = 6 теңдеуінен табылады. Теңдеудің шешімі: x = log26. Лога- рифмдер кестесінен (үтірден кейін 3 таңбалық дәлдікпен) шыға- тыны: x = 2,585 бит.