متغیر تصادفی

را توصیف کند به شرط اینکه مقدار یک متغیر تصادفی دیگر 

هرچه آنتروپی یک متغیر تصادفی بیشتر باشد، ابهام ما درباره آن بیشتر است؛ به این معنی که پس از مشاهده‌ی آن، اطلاعات به‌دست‌آمده از آن بیشتر خواهد بود.

گاهی اوقات لازم است اطلاعات متقابل دو متغیر تصادفی به شرط یک متغیر تصادفی سوم بیان گردد.

تابعی از یک متغیر تصادفی، و در نتیجه یک متغیر تصادفی است.

دو  متغیر تصادفی مستقل باشند.

یعنی مقدار میانگین وزن‌دار این متغیر تصادفی بیانگر مقدار تقریبی

را بگیرد. پس امید انی متغیر تصادفی

برای بررسی این نکته که میانگین نمونه‌های برداشته شده از یک متغیر تصادفی تا چه حد به میزان «واقعی» (که آزمایشگر نمی‌داند) نزدیک است از تست تی-استیودنت استفاده می‌شود.

از حافظه محاسبه می‌کرد. آلون و همکاران ساده شده این الگوریتم را با استفاده از چهار متغیر تصادفی مستقل که مقادیر رو در بازه

توزیع تجمعی احتمال یک متغیر تصادفی تابعی است از دامنهٔ آن متغیر بر بازهٔ