forked from KEMT/zpwiki
Delete 'pages/students/2016/jan_holp/dp2021/elasticsearch.js'
This commit is contained in:
parent
ec120229c6
commit
bd8a99dc64
@ -1,72 +0,0 @@
|
|||||||
|
|
||||||
const elasticsearch = require('elasticsearch');
|
|
||||||
const fs = require('fs');
|
|
||||||
const readline = require('readline');
|
|
||||||
|
|
||||||
const client = new elasticsearch.Client({
|
|
||||||
hosts: [ 'http://localhost:9200']
|
|
||||||
});
|
|
||||||
|
|
||||||
client.indices.create({
|
|
||||||
index: 'skweb'
|
|
||||||
}, function(error, response, status) {
|
|
||||||
if (error) {
|
|
||||||
console.log(error);
|
|
||||||
} else {
|
|
||||||
console.log("created a new index", response);
|
|
||||||
}
|
|
||||||
});
|
|
||||||
|
|
||||||
const bulkIndex = function bulkIndex(index, type, data) {
|
|
||||||
let bulkBody = [];
|
|
||||||
id = 1;
|
|
||||||
const errorCount = 0;
|
|
||||||
data.forEach(item => {
|
|
||||||
bulkBody.push({
|
|
||||||
index: {
|
|
||||||
_index: index,
|
|
||||||
_type: type,
|
|
||||||
_id : id++,
|
|
||||||
}
|
|
||||||
});
|
|
||||||
bulkBody.push(item);
|
|
||||||
});
|
|
||||||
console.log(bulkBody);
|
|
||||||
client.bulk({body: bulkBody})
|
|
||||||
.then(response => {
|
|
||||||
|
|
||||||
response.items.forEach(item => {
|
|
||||||
if (item.index && item.index.error) {
|
|
||||||
console.log(++errorCount, item.index.error);
|
|
||||||
}
|
|
||||||
});
|
|
||||||
console.log(
|
|
||||||
`Successfully indexed ${data.length - errorCount}
|
|
||||||
out of ${data.length} items`
|
|
||||||
);
|
|
||||||
})
|
|
||||||
.catch(console.err);
|
|
||||||
};
|
|
||||||
|
|
||||||
async function indexData() {
|
|
||||||
|
|
||||||
let documents = [];
|
|
||||||
const readInterface = readline.createInterface({
|
|
||||||
input: fs.createReadStream('/home/elastic/BP/skweb/server/text.txt'),
|
|
||||||
// output: process.stdout,
|
|
||||||
console: false
|
|
||||||
});
|
|
||||||
readInterface.on('line', function(line) {
|
|
||||||
const article = JSON.parse(line);
|
|
||||||
documents.push(article);
|
|
||||||
|
|
||||||
});
|
|
||||||
readInterface.on('close', function() {
|
|
||||||
console.log(documents);
|
|
||||||
bulkIndex('skweb', 'web_page', documents);
|
|
||||||
});
|
|
||||||
|
|
||||||
|
|
||||||
}
|
|
||||||
|
|
||||||
indexData();
|
|
Loading…
Reference in New Issue
Block a user