【问题标题】:How to efficiently track rolling min / max values in a frequently updated sliding array如何有效地跟踪频繁更新的滑动数组中的滚动最小值/最大值
【发布时间】:2018-07-14 14:05:01
【问题描述】:

考虑以下 javascript 数据结构:

let sensors = { 
  sensor1: {
    min: 1.00,
    max: 9.00,
    data: [
      {
        timestamp: 1517760374400,
        value: 1.00
      },
      {
        timestamp: 1517760374500,
        value: 2.00
      },
      {
        timestamp: 1517760374600,
        value: 9.00
      },
      {
        timestamp: 1517760374700,
        value: 1.00
      },
      {
        timestamp: 1517760374800,
        value: 3.00
      },
      {
        timestamp: 1517760374900,
        value: 1.00
      },
      {
        timestamp: 1517760375000,
        value: 9.00
      },
      {
        timestamp: 1517760375100,
        value: 8.00
      },
    ]
  },
  // sensor2, sensor3, etc...
}

想象一下,每个传感器可能有数千个带时间戳的数据。

最初你可以很容易地设置一个最小值/最大值,每次添加一个对象时,通过检查它是大于还是小于当前最大值

但棘手的部分和我的问题是:

数组的大小是有限的 - 在这种情况下,我们会将其设置为 8 的长度。

每当第 8 项之后的新项被添加(达到限制),第 1 项将被删除,第 n 项将被推入数组的末尾。

问题是可以有更多具有相同值的项目,即使没有,如果不再次迭代整个数组,我们也无法知道下一个最小值/最大值

这应该可以扩展到数千个数组项目,并且在理想情况下大约每秒运行一次 - cpu 利用率尽可能低 - 我真的不认为每秒循环数千个项目会足够有效.

您是否看到另一种跟踪数组的最小值/最大值的方法,该数组每秒都在变化?

【问题讨论】:

  • 也许你需要这样的东西:stackoverflow.com/questions/12190184/…
  • 只有当删除的项目包含最小值或最大值时,才需要重新计算最小值或最大值,并且只有在需要时(意味着它可以保留为undefined,直到需要该值)

标签: javascript algorithm


【解决方案1】:

数据结构:

  • 队列大小为 N 以存储 N 项。

  • Min / Max Heap 跟踪最小/最大项。

  • 用于跟踪每个项目出现频率的哈希图。

当你有一个数据到来时,更新新项目的频率,如果堆中没有,添加它。

当你需要弹出一个item时,降低频率,当head的频率== 0时,从堆中移除。

堆头是解决方案。

伪代码:

const swap = (data, i, j) => {
  let temp = data[i];
  data[i] = data[j];
  data[j] = temp;
}

class Heap {
  constructor() {
    this.data = [];
    this.inHeap = {};
    this.size = 0;
  }
  
  head() {
    return this.data[0];
  }
  // add item O(logN);
  add(number) {
  
    if (!this.inHeap[number]) {
      this.data[this.size++] = number;
      let current = this.size - 1;

      while (current > 0) {
        if (this.data[current >> 1] < this.data[current]) {
          swap(this.data, current >> 1, current);
          current >>= 1;
        } else {
          break;
        }
      }
      this.inHeap[number] = true;
    }
    
  }
  // remove head O(logN);
  remove() {
    this.size--;
    delete this.inHeap[this.data[0]];
    this.data[0] = this.data[this.size];

    let current = 0;
    while (current * 2 + 1 < this.size) {
      let next = current * 2 + 1;
      if (current * 2 + 2 < this.size && this.data[current * 2 + 2] > this.data[current * 2 + 1]) {
        next = current * 2 + 2;
      } 
      
      if (this.data[current] < this.data[next]) {
        swap(this.data, current, next);
        current = next;
      } else {
        break;
      }
    }
    
  }
}

class Queue {
  constructor(maxSize) {
    this.maxSize = maxSize;
    this.size = 0;
    this.data = [];
    this.head = -1;
  }
  
  // add a number and return the removed item if any
  add(number) {
    let next = (this.head + 1) % this.maxSize;
    let removedItem = this.data[next];
    this.data[next] = number;
    this.head = next;
    
    if (removedItem === undefined) {
      this.size++;
    }
    
    return removedItem;
  }
  
  get(i) {
    return this.data[(this.head - this.size + 1 + i + this.maxSize ) % this.maxSize];
  }
}

class Solution {
  constructor(n) {
    this.n = n;
    this.queue = new Queue(this.n);
    this.heap = new Heap();
    this.frequency = {};
  }
  add(number) {
    let removedItem = this.queue.add(number);
    
    if (!this.frequency[number]) {
      this.frequency[number] = 1;
      this.heap.add(number);
    } else {
      this.frequency[number]++;
    }
    
    if (removedItem !== undefined) {
      this.frequency[removedItem]--;
      
      if (!this.frequency[removedItem]) {
        delete this.frequency[removedItem];
      }
      
      // remove head if frequency is zero
      while (!this.frequency[this.heap.head()]) {
        this.heap.remove();
      }
    }
  }
  
  size() {
    return this.queue.size;
  }
  
  get(i) {
    return this.queue.get(i);
  }
  
  max() {
    return this.heap.head();
  }
}

/*** use of solution here!! **/
let solution = new Solution(3);
let numberInput = document.getElementById("number");
let data = document.getElementById("data");
let maxResult = document.getElementById("max");
let heapData = document.getElementById("heap");
let queueData = document.getElementById("queue");
let frequencyData = document.getElementById("frequency");

function addNumber() {
  let value = parseInt(numberInput.value);
  
  if (isNaN(value)) {
    alert("Please input a number!");
  } else {
    solution.add(value);
  }
  
  maxResult.innerHTML = "Max: " + solution.max();
  
  // gather data
  let dataString = "";
  for (let i = 0; i < solution.size(); i++) {
    dataString += " " + solution.get(i);
  }
  
  data.innerHTML = "Data: " + dataString;
  heapData.innerHTML = "Heap: " + JSON.stringify(solution.heap.data.slice(0, solution.heap.size));
  queueData.innerHTML = "Queue: " + JSON.stringify(solution.queue);
  frequencyData.innerHTML = "Frequency: " + JSON.stringify(solution.frequency);
  
  numberInput.value = parseInt(Math.random() * 1000);
}
.input {
  display: flex;
}

.input input {
  width: 200px;
  padding: 5px 10px;
  outline: none;
}

.input button {
  padding: 5px 10px;
  border: 1px solid light gray;
}

div {
  padding: 5px 10px;
}
<div class="input">
  <input type="text" id="number" />
  <button onClick="addNumber()">Add</button>
</div>
<div class="result">
  <div class="data" id="data">
    Data: 
  </div>
  <div class="max" id="max">
    Max: undefined!
  </div>
</div>
<div class="debug">
  <div>
    <code class="data" id="heap">
      Heap:
    </code>
  </div>
  <div>
    <code class="max" id="queue">
    Queue:
    </code>
  </div>
  <div>
    <code class="max" id="frequency">
      Frequency:
    </code>
  </div>
</div>

【讨论】:

  • 嗨丹尼尔,我认为你是对的,但是你有没有机会给我更多的帮助 - 我不太能把这些点联系起来,看看它是如何应用于我的数据集的. “队列”=“数据”数组? “最小/最大堆”是什么意思-我可能有多个具有相同最小/最大值的项目(不同的时间戳)。真的很想了解您的解决方案,因为我觉得这是要走的路。你有没有机会写一些关于你提议的结构的快速伪代码?
  • 我认为堆的头部只是堆保持排序时的解决方案,对吧?还是我错过了什么
  • 我不知道。不过,很想看到这个解决方案在起作用。但是这些项目在某种意义上是排序的,因为它们每秒都被推送到数组的末尾,所以时间戳应该是有序的。
  • 我的堆实现有个bug,忘记加else { break; }
  • 不用了,可以自定义Heap,以比较函数为参数。
【解决方案2】:

听起来很有趣。我认为您将遇到一个问题,即您只是先验地不知道某个值将来是否会成为极端(最大值/最小值)值。

我的想法是为您当前的最大值和最小值添加一个过期计数器。每次您替换滚动最小值/最大值时,此计数器都会递减。当使用新的新值更新时,它会重置为 8。最小值和最大值显然有单独的计数器。

现在,您只需在计数器减少到 0 并且您的最小/最大值变得陈旧(它不再在您的列表中)时遍历您的值。例如,如果您的最小计数器到期,您现在必须确定当前列表中的剩余最小值 8。在这种情况下,您将重置到期计数器以匹配迭代次数,直到新的最小值获得从列表中删除(8 - 它的索引)。

这可能会为您节省一些 CPU 周期!

【讨论】:

    猜你喜欢
    • 2012-07-19
    • 1970-01-01
    • 2012-02-06
    • 2011-10-23
    • 2012-05-30
    • 2013-06-08
    • 1970-01-01
    • 1970-01-01
    • 2020-06-21
    相关资源
    最近更新 更多