Вычисление максимальних абсолютных погрешностей округления чисел вIEEE-стандарте
Journal Title: Математичне моделювання - Year 2015, Vol 1, Issue 2
Abstract
The article describes the features of the standard methods of rounding floating point numbers in the calculations on the computer, precision floating-point numbers. In the article obtained the formulas for calculating the maximum absolute round off errors of numbers, presented in the basic format of the IEEE754 standard.
Authors and Affiliations
И. И. Жульковская, О. А. Жульковский
Keywords
Related Articles
- EP ID EP277332
- DOI -
- Views 75
- Downloads 0
Розробка математичної моделі процесу мийки шламів абразивної обробки металів в миючому розчині
DEVELOPMENT OF MATHEMATICAL MODEL OF SLUDGE CLEANING PROCESS 0F ABRASIVE METAL TREATMENT IN THE CLEANING SOLUTION Vernyhora V.D. Abstract At present engineering companies have huge problems with waste sludge obtained af...
Моделювання системи розпізнавання математичних виразів у графічному форматі представлення даних
SIMULATION OF THE RECOGNITION SYSTEM OF MATHEMATICAL EXPRESSIONS IN A GRAPHICAL FORMAT OF DATA PRESENTATION Mikhailutsa O.M., Pozhuyev A.V., Nebesniuk V.O. Abstract With gradual automation of many processes in various a...
Mathematical modeling of gyroscope dynamicsbased on quaternion
МАТЕМАТИЧНЕ МОДЕЛЮВАННЯ ДИНАМІКИ ГІРОСКОПУ НА ОСНОВІ КВАТЕРНІОНА Красніков К.С. Реферат Автор статті розглядає проблему виродження кутів сферичної системи координат, що спричиняє нереалістичну поведінку дроту у металур...
Критерии и модели для прогнозирования механических свойств для железнодорожных колес
The method of simulation of metal melts at interatomic interaction was considered. Integral parameters of the structure and charge state proposed used as a model in the development of models to predict the mechanical pro...
МОДЕЛЬ МЕХАНІЗМУ КАТАЛІТИЧНИХ РЕАКЦИЙ ГЛИБОКОГО ОКИСЛЕННЯ ОКСИДУ ВУГЛЕЦЮ
MODEL OF THE MECHANISM CATALYTIC REACTIONS OF DEEP OXIDATION OF CARBON OXIDE Sereda B.P., Belokon K.V., Belokon Yu.A., Kruglyak I.V. Abstract Heterogeneous catalytic reactions are among the complex multistage processes....