关于matlab的精度问题
来源:学生作业帮 编辑:百度作业网作业帮 分类:综合作业 时间:2024/07/16 12:38:55
关于matlab的精度问题
比如说一个矩阵z=[0.4331 0.4331 0.4331]
这个矩阵是某些程序计算出来的,你看起来里边的三个元素是相同的,但matlab判断不相同.是不是和精度有关?如果想让matlab判断他们相同怎么办?
比如说一个矩阵z=[0.4331 0.4331 0.4331]
这个矩阵是某些程序计算出来的,你看起来里边的三个元素是相同的,但matlab判断不相同.是不是和精度有关?如果想让matlab判断他们相同怎么办?
![关于matlab的精度问题](/uploads/image/z/15097571-35-1.jpg?t=%E5%85%B3%E4%BA%8Ematlab%E7%9A%84%E7%B2%BE%E5%BA%A6%E9%97%AE%E9%A2%98)
小数变整数然后取模
>> x=[1.4,1.5,1.6];
>> mod(round(x),256)
ans =
1 2 2
>> mod(ceil(x),256)
ans =
2 2 2
>> mod(floor(x),256)
ans =
1 1 1
你想做什么描述清楚些.我看你的*power(2,64)你是想得到x的最后几位是吧.
但是你这样一乘,你就不怕溢出吗?
>> x=[1.4,1.5,1.6];
>> mod(round(x),256)
ans =
1 2 2
>> mod(ceil(x),256)
ans =
2 2 2
>> mod(floor(x),256)
ans =
1 1 1
你想做什么描述清楚些.我看你的*power(2,64)你是想得到x的最后几位是吧.
但是你这样一乘,你就不怕溢出吗?