Помилка округлення

ПОМИЛКА ОКРУГЛЕННЯ — (rounding error) Помилка, що виникає при округленні чисел порівняно з даними початкових обчислень або вимірювань. При додаванні двох або більше округлених чисел їх загальна округлена сума може не збігтися з сумою вихідних доданків. Економічний словник

помилка округлення — — [http://www.iks media.ru/glossary/index.html?gloss >Довідник технічного перекладача

Помилка округлення — (математика) абсолютне значення різниці даного числа а та числа а*, що отримується в результаті округлення а… Велика радянська енциклопедія

помилка округлення - похибка, що виникає при квантуванні в результаті округлення амплітуди сигналу до найближчого рівня квантування. Причина виникнення шуму квантування … український індекс до Англо-українського словника з музичної термінології

помилка відкидання — помилка округлення помилка усічення похибка відкидання — [Л.Г.Суменко. Англо-український словник з інформаційних технологій. М.: ДП ЦНДІС, 2003.] Тематики інформаційні технології в цілому Синоніми помилка округленняпомилка... Довідник технічного перекладача

помилка відкидання (члена формули) - похибка методу (формули) помилка округлення - [Л.Г.Суменко. Англо-український словник з інформаційних технологій. М.: ДП ЦНИИС, 2003.] Тематики інформаційні технології загалом Синоніми похибка методу (формули)помилка округлення EN… … Довідник технічного перекладача

помилка в результаті округлення - - [А.С.Гольдберг. Англо-український енергетичний словник. 2006 р.] Тематики енергетика загалом EN round off error … Довідник технічного перекладача

Помилка квантування - Шум квантування помилки, що виникають приоцифровці аналогового сигналу. Залежно від типу аналого-цифрового перетворення можуть виникати через округлення (до певного розряду) сигналу або усічення (відкидання молодших розрядів)… … Вікіпедія

НАКОПЛЕННЯ ПОХІДНОСТІ — при чисельному розв'язанні рівнянь алгебри сумарний вплив округлень, зроблених на окремих кроках обчислювального процесу, на точність отриманого рішення лінійної алгебраїч. системи. Найбільш поширеним способом апріорної оцінки.

Гібридний комп'ютер — Цей термін має й інші значення, див. Гібридна обчислювальна система. Гібридний комп'ютер, гібридна обчислювальна машина, аналого-цифрова система вид гібридної обчислювальної системи (ГВП), що поєднує в собі властивості.