天天看點

CATIA中資料精度處理

一、長度四舍五入取整

例:L = 20.1mm

       20mm = int (L / 1m * 1000 + 0.5) * 1mm

       L = 20.7mm

       21mm = int (L / 1m * 1000 + 0.5) * 1mm

二、長度向下取整

例:L = 20.1mm

       20mm = floor (L / 1m * 1000) * 1mm

三、長度向上取整

例:L = 20.1mm

       20mm = ceil (L / 1m * 1000) * 1mm

四、長度按一定精度向上進位

例:L = 20.1mm

       R = 0.5(精度)

       20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       21mm = ceil (L / 1m * 1000 / R) * 1mm * R

五、長度按一定精度向下進位

例:L = 20.1mm

       R = 0.5(精度)

       20mm = floor (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       20.5mm = floor (L / 1m * 1000 / R) * 1mm * R

注:CATIA中長度的預設機關為1m,是以,要乘以1000,對機關進行轉化

CAA