public function run($args)
{
define("VERYFAST", true);
if (count($args) == 0) {
die("./yii recalc_documents [Dokument-ID|alle]\n");
}
if ($args[0] == "alle") {
$sql = Yii::app()->db->createCommand();
$sql->select("id")->from("dokumente")->where("id >= 579866")->order("id");
$data = $sql->queryColumn(["id"]);
} else {
$data = [IntVal($args[0])];
}
$anz = count($data);
foreach ($data as $nr => $dok_id) {
echo "{$nr} / {$anz} => {$dok_id}\n";
/** @var Dokument $dokument */
$dokument = Dokument::model()->findByPk($dok_id);
if (!$dokument) {
continue;
}
$dokument->download_if_necessary();
$dokument->geo_extract();
$absolute_filename = $dokument->getLocalPath();
$metadata = RISPDF2Text::document_pdf_metadata($absolute_filename);
$dokument->seiten_anzahl = $metadata["seiten"];
$dokument->datum_dokument = $metadata["datum"];
$dokument->save();
echo $dokument->id . " => " . $dokument->seiten_anzahl . " / " . $dokument->datum_dokument . "\n";
}
}
public function run($args)
{
if (!isset($args[0])) {
die("./yiic reindexsolr_documents [id]|stadtrat_beschluss|ba_beschluss|alle [offset]\n");
}
if ($args[0] > 0) {
$data = [$args[0]];
} elseif ($args[0] == "alle") {
$sql = Yii::app()->db->createCommand();
$sql->select("id")->from("dokumente")->where("id >= 0")->order("id");
$data = $sql->queryColumn(["id"]);
} elseif (isset(Dokument::$TYPEN_ALLE[$args[0]])) {
$sql = Yii::app()->db->createCommand();
$sql->select("id")->from("dokumente")->where("typ = '" . addslashes($args[0]) . "'")->order("id");
$data = $sql->queryColumn(["id"]);
} else {
die("./yiic reindexsolr_documents [id]|stadtrat_beschluss|ba_beschluss|rathausumschau|alle\n");
}
$offset = isset($args[1]) && $args[1] > 0 ? IntVal($args[1]) : 0;
$anz = count($data);
for ($i = $offset; $i < $anz; $i++) {
$dok_id = $data[$i];
echo "{$i} / {$anz} => {$dok_id}\n";
/** @var Dokument $dokument */
$dokument = Dokument::model()->findByPk($dok_id);
$dokument->solrIndex();
}
}
private function importFile($filename)
{
echo $filename . "\n";
$txt = file_get_contents(OMNIPAGE_DST_DIR . $filename);
//$txt = iconv("Windows-1252", "UTF-8//TRANSLIT", $txt);
$txt = iconv('UTF-16LE', "UTF-8//TRANSLIT", $txt);
/*
$repl = array(
chr(194) . chr(149) => " ",
chr(194) . chr(151) => " ",
chr(194) . chr(148) => "„",
chr(194) . chr(150) => "„",
chr(194) . chr(132) => "„",
chr(194) . chr(130) => "„",
chr(194) . chr(147) => "“",
);
//$txt = str_replace(array_keys($repl), array_values($repl), $txt);
echo $txt;
if (strpos($txt, "Tagessatz in ") !== false) {
$x = explode("Tagessatz in ", $txt);
echo ord($x[1][0]) . " - " . ord($x[1][1]) . " - " . ord($x[1][2]);
}
*/
/** @var Dokument $dokument */
$dokument = Dokument::model()->findByPk(IntVal($filename));
if (!$dokument) {
rename(OMNIPAGE_DST_DIR . $filename, OMNIPAGE_IMPORTED_DIR . $filename);
if (file_exists(OMNIPAGE_PDF_DIR . IntVal($filename) . ".pdf")) {
unlink(OMNIPAGE_PDF_DIR . IntVal($filename) . ".pdf");
}
return;
}
$dokument->text_ocr_raw = $txt;
$dokument->text_ocr_corrected = $txt;
$dokument->text_ocr_garbage_seiten = NULL;
$dokument->ocr_von = Dokument::$OCR_VON_OMNIPAGE;
$dokument->save();
$dokument->geo_extract();
$dokument->solrIndex();
rename(OMNIPAGE_DST_DIR . $filename, OMNIPAGE_IMPORTED_DIR . $filename);
if (file_exists(OMNIPAGE_PDF_DIR . IntVal($filename) . ".pdf")) {
unlink(OMNIPAGE_PDF_DIR . IntVal($filename) . ".pdf");
}
}
public function run($args)
{
if (!isset($args[0]) || $args[0] <= 1) {
die("./yiic reindex_document [dokument-ID]\n");
}
$sql = Yii::app()->db->createCommand();
$sql->select("id")->from("dokumente")->where("id = " . IntVal($args[0]));
$data = $sql->queryColumn(["id"]);
$anz = count($data);
foreach ($data as $nr => $dok_id) {
echo "{$nr} / {$anz} => {$dok_id}\n";
/** @var Dokument $dokument */
$dokument = Dokument::model()->findByPk($dok_id);
if (!$dokument) {
continue;
}
//$dokument->reDownloadIndex();
$dokument->geo_extract();
$dokument->solrIndex();
}
}
public function checkAndDeleteDocument($doc_id)
{
/** @var Dokument $dokument */
$dokument = Dokument::model()->disableDefaultScope()->findByPk($doc_id);
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $dokument->getLink());
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_NOBODY, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_TIMEOUT, 10);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'HEAD');
// here HTTP request is 'HEAD'
curl_exec($ch);
$info = curl_getinfo($ch);
if ($info["http_code"] == 200 && $dokument->deleted == 1) {
// @TODO Wiederherstellen
echo "\n";
} elseif ($info["http_code"] == 404 && $dokument->deleted == 0) {
$dokument->loeschen();
echo "Gelöscht: " . $dokument->id . "\n";
}
}
public function run($args)
{
if (count($args) == 0) {
die("./yiic reindex_documents [max_id]\n");
}
$max_id = $args[0];
$sql = Yii::app()->db->createCommand();
//$sql->select("id")->from("dokumente")->where("datum < NOW() - INTERVAL 2 MONTH AND datum > NOW() - INTERVAL 3 MONTH")->order("id");
//$sql->select("id")->from("dokumente")->where("text_pdf = '' AND url LIKE '%pdf'")->order("id");
$sql->select("id")->from("dokumente")->where("id <= " . IntVal($max_id))->order("id DESC");
$data = $sql->queryColumn(["id"]);
$anz = count($data);
foreach ($data as $nr => $dok_id) {
echo "{$nr} / {$anz} => {$dok_id}\n";
/** @var Dokument $dokument */
$dokument = Dokument::model()->findByPk($dok_id);
if (!$dokument) {
continue;
}
//$dokument->reDownloadIndex();
$dokument->geo_extract();
$dokument->solrIndex();
}
}
public function actionHighlights()
{
$dokumente = Dokument::model()->with("antrag")->findAll(["condition" => "highlight IS NOT NULL", "order" => "highlight DESC"]);
$this->render("dokumentenliste", ["dokumente" => $dokumente]);
}
/**
* @param int $limit
* @return Dokument[]
*/
public static function getHighlightDokumente($limit = 3)
{
return Dokument::model()->findAll(["condition" => "highlight IS NOT NULL", "order" => "highlight DESC", "limit" => $limit]);
}
/**
* @param int $zeitspanne
* @return array
*/
public function benachrichtigungsErgebnisse($zeitspanne)
{
$benachrichtigungen = $this->getBenachrichtigungen();
if ($zeitspanne > 0) {
$neu_seit_ts = time() - $zeitspanne * 24 * 3600;
$neu_seit = date("Y-m-d H:i:s", $neu_seit_ts);
} else {
$neu_seit = $this->datum_letzte_benachrichtigung;
$neu_seit_ts = RISTools::date_iso2timestamp($neu_seit);
}
$ergebnisse = ["antraege" => [], "termine" => [], "vorgaenge" => []];
$sql = Yii::app()->db->createCommand();
$sql->select("id")->from("dokumente")->where("datum >= '" . addslashes($neu_seit) . "'");
$data = $sql->queryColumn(["id"]);
if (count($data) > 0) {
$document_ids = [];
foreach ($data as $did) {
$document_ids[] = "id:\"Document:{$did}\"";
}
foreach ($benachrichtigungen as $benachrichtigung) {
$e = $this->queryBenachrichtigungen($document_ids, $benachrichtigung);
foreach ($e as $f) {
$d = explode(":", $f["id"]);
$dokument_id = IntVal($d[1]);
$dokument = Dokument::getCachedByID($dokument_id);
if (!$dokument) {
continue;
}
if ($dokument->antrag_id > 0) {
if (!isset($ergebnisse["antraege"][$dokument->antrag_id])) {
$ergebnisse["antraege"][$dokument->antrag_id] = ["antrag" => $dokument->antrag, "dokumente" => []];
}
if (!isset($ergebnisse["antraege"][$dokument->antrag_id]["dokumente"][$dokument_id])) {
$ergebnisse["antraege"][$dokument->antrag_id]["dokumente"][$dokument_id] = ["dokument" => Dokument::model()->findByPk($dokument_id), "queries" => []];
}
$ergebnisse["antraege"][$dokument->antrag_id]["dokumente"][$dokument_id]["queries"][] = $benachrichtigung;
} elseif ($dokument->termin_id > 0) {
if (!isset($ergebnisse["termine"][$dokument->termin_id])) {
$ergebnisse["termine"][$dokument->termin_id] = ["termin" => $dokument->termin, "dokumente" => []];
}
if (!isset($ergebnisse["termine"][$dokument->termin_id]["dokumente"][$dokument_id])) {
$ergebnisse["termine"][$dokument->termin_id]["dokumente"][$dokument_id] = ["dokument" => Dokument::model()->findByPk($dokument_id), "queries" => []];
}
$ergebnisse["termine"][$dokument->termin_id]["dokumente"][$dokument_id]["queries"][] = $benachrichtigung;
}
}
}
}
foreach ($this->abonnierte_vorgaenge as $vorgang) {
foreach ($vorgang->antraege as $ant) {
if (RISTools::date_iso2timestamp($ant->datum_letzte_aenderung) < $neu_seit_ts) {
continue;
}
if (!isset($ergebnisse["vorgaenge"][$vorgang->id])) {
$ergebnisse["vorgaenge"][$vorgang->id] = ["vorgang" => $vorgang->wichtigstesRisItem()->getName(true), "neues" => []];
}
$ant->findeAenderungen(time());
$ergebnisse["vorgaenge"][$vorgang->id]["neues"][] = $ant;
}
foreach ($vorgang->dokumente as $dok) {
if (RISTools::date_iso2timestamp($dok->datum) < $neu_seit_ts) {
continue;
}
if (!isset($ergebnisse["vorgaenge"][$vorgang->id])) {
$ergebnisse["vorgaenge"][$vorgang->id] = ["vorgang" => $vorgang->wichtigstesRisItem()->getName(true), "neues" => []];
}
$ergebnisse["vorgaenge"][$vorgang->id]["neues"][] = $dok;
}
foreach ($vorgang->ergebnisse as $erg) {
if (RISTools::date_iso2timestamp($erg->datum_letzte_aenderung) < $neu_seit_ts) {
continue;
}
if (!isset($ergebnisse["vorgaenge"][$vorgang->id])) {
$ergebnisse["vorgaenge"][$vorgang->id] = ["vorgang" => $vorgang->wichtigstesRisItem()->getName(true), "neues" => []];
}
$ergebnisse["vorgaenge"][$vorgang->id]["neues"][] = $erg;
}
}
return $ergebnisse;
}
public function parse($termin_id)
{
$termin_id = IntVal($termin_id);
if (SITE_CALL_MODE != "cron") {
echo "- Termin {$termin_id}\n";
}
$html_details = RISTools::load_file("http://www.ris-muenchen.de/RII/RII/ris_sitzung_detail.jsp?risid={$termin_id}");
$html_dokumente = RISTools::load_file("http://www.ris-muenchen.de/RII/RII/ris_sitzung_dokumente.jsp?risid={$termin_id}");
$html_to = RISTools::load_file("http://www.ris-muenchen.de/RII/RII/ris_sitzung_to.jsp?risid={$termin_id}");
$html_to_geheim = RISTools::load_file("http://www.ris-muenchen.de/RII/RII/ris_sitzung_nto.jsp?risid={$termin_id}");
$daten = new Termin();
$daten->typ = Termin::$TYP_AUTO;
$daten->id = $termin_id;
$daten->datum_letzte_aenderung = new CDbExpression('NOW()');
$daten->gremium_id = NULL;
$daten->ba_nr = NULL;
$daten->sitzungsstand = "";
$daten->sitzungsort = "";
$daten->referat = "";
$daten->referent = "";
$daten->vorsitz = "";
$daten->wahlperiode = "";
$daten->status = "";
if (preg_match("/ris_gremien_detail\\.jsp\\?risid=([0-9]+)[\"'& ]/siU", $html_details, $matches)) {
$daten->gremium_id = IntVal($matches[1]);
}
if ($daten->gremium_id) {
$gr = Gremium::model()->findByPk($daten->gremium_id);
if (!$gr) {
echo "Lege Gremium an: " . $daten->gremium_id . "\n";
Gremium::parse_stadtrat_gremien($daten->gremium_id);
}
}
$geloescht = false;
$sitzungsort_gefunden = false;
if (preg_match("/Sitzungsort:.*detail_div\">([^<]*)[<]/siU", $html_details, $matches)) {
$sitzungsort_gefunden = true;
$daten->sitzungsort = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Sitzungsstand:.*detail_div\">([^<]*)[<]/siU", $html_details, $matches)) {
$sitzungsort_gefunden = true;
$daten->sitzungsstand = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/chste Sitzung:.*ris_sitzung_detail\\.jsp\\?risid=([0-9]+)[\"'& ]/siU", $html_details, $matches)) {
$daten->termin_next_id = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Letzte Sitzung:.*ris_sitzung_detail\\.jsp\\?risid=([0-9]+)[\"'& ]/siU", $html_details, $matches)) {
$daten->termin_prev_id = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Wahlperiode:.*detail_div_left_long\">([^>]*)<\\//siU", $html_details, $matches)) {
$daten->wahlperiode = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Status:.*detail_div_left_long\">([^>]*)<\\//siU", $html_details, $matches)) {
$daten->status = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/diges Referat:.*detail_div_left_long\">(<a[^>]+>)?([^>]*)<\\//siU", $html_details, $matches)) {
$daten->referat = trim(str_replace(" ", "", $matches[2]));
}
if (preg_match("/Referent\\/in:.*detail_div_left_long\">([^>]*)<\\//siU", $html_details, $matches)) {
$daten->referent = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Vorsitz:.*detail_div_left_long\">([^>]*)<\\//siU", $html_details, $matches)) {
$daten->vorsitz = trim(str_replace(" ", "", $matches[1]));
}
if (preg_match("/Termin:.*detail_div\">([^&<]+)[&<]/siU", $html_details, $matches)) {
$termin = $matches[1];
$MONATE = ["januar" => "01", "februar" => "02", "märz" => "03", "april" => "04", "mai" => "05", "juni" => "06", "juli" => "07", "august" => "08", "september" => "09", "oktober" => "10", "november" => "11", "dezember" => "12"];
$x = explode(" ", trim($termin));
if (isset($x[1])) {
$tag = IntVal($x[1]);
if ($tag < 10) {
$tag = "0" . IntVal($tag);
}
$jahr = IntVal($x[2]);
$y = explode(".", $x[1]);
$monat = $MONATE[mb_strtolower($y[1])];
if ($monat < 10) {
$monat = "0" . IntVal($monat);
}
$zeit = $x[3];
$daten->termin = "{$jahr}-{$monat}-{$tag} {$zeit}:00";
} else {
if ($sitzungsort_gefunden && $daten->gremium === null && $daten->sitzungsort == "" && $daten->status == "") {
$geloescht = true;
} else {
RISTools::send_email(Yii::app()->params['adminEmail'], "Stadtratstermin: Unbekanntes Datum", "ID: {$termin_id}\n" . print_r($matches, true), null, "system");
die;
}
}
}
$dokumente = [];
preg_match_all("/<li><span class=\"iconcontainer\">.*href=\"(.*)\".*>(.*)<\\/a>/siU", $html_dokumente, $matches);
for ($i = 0; $i < count($matches[1]); $i++) {
$dokumente[] = ["url" => $matches[1][$i], "name" => $matches[2][$i], "name_title" => ""];
}
$aenderungen = "";
/** @var Termin $alter_eintrag */
$alter_eintrag = Termin::model()->findByPk($termin_id);
$changed = true;
if ($alter_eintrag) {
$changed = false;
if ($geloescht) {
$aenderungen = "gelöscht";
$changed = true;
} else {
if ($alter_eintrag->termin != $daten->termin) {
$aenderungen .= "Termin: " . $alter_eintrag->termin . " => " . $daten->termin . "\n";
}
if ($alter_eintrag->gremium_id != $daten->gremium_id) {
$aenderungen .= "Gremium-ID: " . $alter_eintrag->gremium_id . " => " . $daten->gremium_id . "\n";
}
if ($alter_eintrag->sitzungsort != $daten->sitzungsort) {
$aenderungen .= "Sitzungsort: " . $alter_eintrag->sitzungsort . " => " . $daten->sitzungsort . "\n";
}
if ($alter_eintrag->termin_next_id != $daten->termin_next_id) {
$aenderungen .= "Nächster Termin: " . $alter_eintrag->termin_next_id . " => " . $daten->termin_next_id . "\n";
}
if ($alter_eintrag->termin_prev_id != $daten->termin_prev_id) {
$aenderungen .= "Voriger Termin: " . $alter_eintrag->termin_prev_id . " => " . $daten->termin_prev_id . "\n";
}
if ($alter_eintrag->wahlperiode != $daten->wahlperiode) {
$aenderungen .= "Wahlperiode: " . $alter_eintrag->wahlperiode . " => " . $daten->wahlperiode . "\n";
}
if ($alter_eintrag->referat != $daten->referat) {
$aenderungen .= "Referat: " . $alter_eintrag->referat . " => " . $daten->referat . "\n";
}
if ($alter_eintrag->referent != $daten->referent) {
$aenderungen .= "Referent: " . $alter_eintrag->referent . " => " . $daten->referent . "\n";
}
if ($alter_eintrag->vorsitz != $daten->vorsitz) {
$aenderungen .= "Vorsitz: " . $alter_eintrag->vorsitz . " => " . $daten->vorsitz . "\n";
}
if ($alter_eintrag->sitzungsstand != $daten->sitzungsstand) {
$aenderungen .= "Sitzungsstand: " . $alter_eintrag->sitzungsstand . " => " . $daten->sitzungsstand . "\n";
}
if ($aenderungen != "") {
$changed = true;
}
}
}
if (!$alter_eintrag) {
$daten->save();
}
$match_top = "tdborder\">(?<top>.*)<\\/t[hd]>";
$match_betreff = "tdborder\">(?<betreff>.*)<\\/t[hd]>";
$match_vorlage = "<t(?<ueberschrift>[hd])[^>]*>(?<vorlage_holder>.*)<\\/t[hd]>";
$match_referentIn = "<t[hd][^>]*>(?<referentIn>.*)<\\/t[hd]>";
$match_entscheidung = "<t[hd][^>]*>(?<entscheidung>.*)<\\/t[hd]>";
preg_match_all("/<tr class=\"ergebnistab_tr\">.*{$match_top}.*{$match_betreff}.*{$match_vorlage}.*{$match_referentIn}.*{$match_entscheidung}.*<\\/tr>/siU", $html_to, $matches);
foreach ($matches["betreff"] as $i => $val) {
$matches["betreff"][$i] = static::text_clean_spaces($matches["betreff"][$i]);
}
$matches["betreff"] = RISTools::makeArrValuesUnique($matches["betreff"]);
/** @var Tagesordnungspunkt[] $bisherige_tops */
$bisherige_tops = $alter_eintrag ? $alter_eintrag->tagesordnungspunkte : [];
$aenderungen_tops = "";
//$verwendete_top_betreffs = array();
$verwendete_top_ids = [];
$abschnitt_nr = 0;
for ($i = 0; $i < count($matches[0]); $i++) {
$top = trim(str_replace([" ", "<strong>", "</strong>"], [" ", "", ""], $matches["top"][$i]));
$betreff = $matches["betreff"][$i];
if ($matches["ueberschrift"][$i] == "h") {
$abschnitt_nr = $abschnitt_nr + 1;
$top_ueberschrift = true;
$top_nr = $abschnitt_nr;
$betreff = str_replace(["<strong>", "</strong>"], ["", ""], $betreff);
} else {
if ($abschnitt_nr == 0) {
$abschnitt_nr = 1;
}
$top_ueberschrift = false;
$top_nr = $abschnitt_nr . "." . $top;
}
$vorlage_holder = trim(str_replace(" ", " ", $matches["vorlage_holder"][$i]));
preg_match_all("/risid=(?<risid>[0-9]+)>/siU", $vorlage_holder, $matches2);
$vorlage_id = isset($matches2["risid"][0]) ? $matches2["risid"][0] : null;
if ($vorlage_id) {
$vorlage = Antrag::model()->findByPk($vorlage_id);
if (!$vorlage) {
echo "Creating: {$vorlage_id}\n";
$p = new StadtratsvorlageParser();
$p->parse($vorlage_id);
}
}
$entscheidung_original = trim(str_replace(" ", " ", $matches["entscheidung"][$i]));
$entscheidung = trim(preg_replace("/<a[^>]*>[^<]*<\\/a>/siU", "", $entscheidung_original));
$top = new Tagesordnungspunkt();
$top->datum_letzte_aenderung = new CDbExpression("NOW()");
$top->sitzungstermin_id = $termin_id;
$top->sitzungstermin_datum = substr($daten->termin, 0, 10);
$top->top_nr = $top_nr;
$top->antrag_id = $vorlage_id;
$top->top_ueberschrift = $top_ueberschrift ? 1 : 0;
$top->entscheidung = $entscheidung;
$top->top_betreff = $betreff;
$top->gremium_id = $daten->gremium_id;
$top->gremium_name = $daten->gremium->name;
$top->beschluss_text = "";
if (!is_null($vorlage_id)) {
$html_vorlage_ergebnis = RISTools::load_file("http://www.ris-muenchen.de/RII/RII/ris_vorlagen_ergebnisse.jsp?risid={$vorlage_id}");
preg_match_all("/ris_sitzung_to.jsp\\?risid=" . $termin_id . ".*<\\/td>.*<\\/td>.*tdborder\">(?<beschluss>.*)<\\/td>/siU", $html_vorlage_ergebnis, $matches3);
if (isset($matches3["beschluss"]) && count($matches3["beschluss"]) > 0) {
$beschluss = static::text_clean_spaces($matches3["beschluss"][0]);
} else {
RISTools::send_email(Yii::app()->params["adminEmail"], "StadtratTermin Kein Beschluss", "Termin: {$termin_id}\n" . "http://www.ris-muenchen.de/RII/RII/ris_vorlagen_ergebnisse.jsp?risid={$vorlage_id}\n" . $html_vorlage_ergebnis);
$beschluss = "";
}
$top->beschluss_text = $beschluss;
}
/** @var Tagesordnungspunkt $alter_top */
if (is_null($vorlage_id)) {
$alter_top = Tagesordnungspunkt::model()->findByAttributes(["sitzungstermin_id" => $termin_id, "top_betreff" => $betreff]);
} else {
$alter_top = Tagesordnungspunkt::model()->findByAttributes(["sitzungstermin_id" => $termin_id, "antrag_id" => $vorlage_id]);
}
$top_aenderungen = "";
if ($alter_top) {
if ($alter_top->sitzungstermin_id != $top->sitzungstermin_id) {
$top_aenderungen .= "Sitzung geändert: " . $alter_top->sitzungstermin_id . " => " . $top->sitzungstermin_id . "\n";
}
if ($alter_top->sitzungstermin_datum != $top->sitzungstermin_datum) {
$top_aenderungen .= "Sitzungstermin geändert: " . $alter_top->sitzungstermin_datum . " => " . $top->sitzungstermin_datum . "\n";
}
if ($alter_top->top_nr != $top->top_nr) {
$top_aenderungen .= "TOP geändert: " . $alter_top->top_nr . " => " . $top->top_nr . "\n";
}
if ($alter_top->top_ueberschrift != $top->top_ueberschrift) {
$top_aenderungen .= "Bereich geändert: " . $alter_top->top_ueberschrift . " => " . $top->top_ueberschrift . "\n";
}
if ($alter_top->top_betreff != $top->top_betreff) {
$top_aenderungen .= "Betreff geändert: " . $alter_top->top_betreff . " => " . $top->top_betreff . "\n";
}
if ($alter_top->antrag_id != $top->antrag_id) {
$top_aenderungen .= "Antrag geändert: " . $alter_top->antrag_id . " => " . $top->antrag_id . "\n";
}
if ($alter_top->gremium_id != $top->gremium_id) {
$top_aenderungen .= "Gremium geändert: " . $alter_top->gremium_id . " => " . $top->gremium_id . "\n";
}
if ($alter_top->gremium_name != $top->gremium_name) {
$top_aenderungen .= "Gremium geändert: " . $alter_top->gremium_name . " => " . $top->gremium_name . "\n";
}
if ($alter_top->entscheidung != $top->entscheidung) {
$top_aenderungen .= "Entscheidung: " . $alter_top->entscheidung . " => " . $top->entscheidung . "\n";
}
if ($alter_top->beschluss_text != $top->beschluss_text) {
$top_aenderungen .= "Beschluss: " . $alter_top->beschluss_text . " => " . $top->beschluss_text . "\n";
}
if ($top_aenderungen != "") {
$aend = new RISAenderung();
$aend->ris_id = $alter_top->id;
$aend->ba_nr = NULL;
$aend->typ = RISAenderung::$TYP_STADTRAT_ERGEBNIS;
$aend->datum = new CDbExpression("NOW()");
$aend->aenderungen = $top_aenderungen;
$aend->save();
$aenderungen_tops .= "TOP geändert: " . $top->top_betreff . "\n " . str_replace("\n", "\n ", $top_aenderungen) . "\n";
$alter_top->copyToHistory();
$top->id = $alter_top->id;
$alter_top->setAttributes($top->getAttributes(), false);
if (!$alter_top->save()) {
echo "StadtratAntrag 1\n";
var_dump($alter_eintrag->getErrors());
die("Fehler");
}
}
$top = $alter_top;
} else {
$aenderungen .= "Neuer TOP: " . $top_nr . " - " . $betreff . "\n";
$top->save();
}
//$verwendete_top_betreffs[] = $top->top_nr . "-" . $top->top_betreff;
$verwendete_top_ids[] = $top->id;
preg_match_all("/<a href=(?<url>[^ ]+) title=\"(?<title>[^\"]*)\"/siU", $entscheidung_original, $matches2);
if (isset($matches2["url"]) && count($matches2["url"]) > 0) {
$aenderungen .= Dokument::create_if_necessary(Dokument::$TYP_STADTRAT_BESCHLUSS, $top, ["url" => $matches2["url"][0], "name" => $matches2["title"][0], "name_title" => ""]);
/** @var Dokument $dok */
$dok = Dokument::model()->findByAttributes(["tagesordnungspunkt_id" => $top->id, "url" => $matches2["url"][0], "name" => $matches2["title"][0]]);
if ($dok && $dok->tagesordnungspunkt_id != $top->id) {
echo "Korrgiere ID\n";
$dok->tagesordnungspunkt_id = $top->id;
$dok->save(false);
}
}
}
preg_match_all("/<tr class=\"ergebnistab_tr\">.*<strong>(?<top>[0-9]+)\\..*tdborder\">(?<betreff>.*)<\\/td>.*<span[^>]+>(?<vorlage_id>.*)<\\/span>.*valign=\"top\">(?<referent>.*)<\\/td>/siU", $html_to_geheim, $matches);
foreach ($matches["betreff"] as $i => $val) {
$matches["betreff"][$i] = static::text_clean_spaces($matches["betreff"][$i]);
}
$matches["betreff"] = RISTools::makeArrValuesUnique($matches["betreff"]);
for ($i = 0; $i < count($matches[0]); $i++) {
$betreff = $matches["betreff"][$i];
$referent = static::text_clean_spaces($matches["referent"][$i]);
/** @var Tagesordnungspunkt $top */
$krits = ["sitzungstermin_id" => $termin_id, "status" => "geheim", "top_betreff" => $betreff];
$top = Tagesordnungspunkt::model()->findByAttributes($krits);
if (is_null($top)) {
$top = new Tagesordnungspunkt();
$aenderungen .= "Neuer geheimer Tagesordnungspunkt: " . $betreff . "\n";
}
$top->sitzungstermin_id = $termin_id;
$top->sitzungstermin_datum = $daten->termin;
$top->datum_letzte_aenderung = new CDbExpression("NOW()");
$top->antrag_id = null;
$top->status = "geheim";
$top->beschluss_text = $matches["vorlage_id"][$i];
$top->top_nr = $matches["top"][$i];
$top->top_betreff = $betreff;
$top->entscheidung = $referent;
$top->gremium_id = $daten->gremium_id;
$top->gremium_name = $daten->gremium->name;
$top->save();
//$verwendete_top_betreffs[] = "geheim-" . $top->top_nr . "-" . $top->top_betreff;
$verwendete_top_ids[] = $top->id;
}
foreach ($bisherige_tops as $top) {
//$top_key = ($top->status == "geheim" ? "geheim-" : "") . $top->top_nr . "-" . $top->top_betreff;
if (!in_array($top->id, $verwendete_top_ids)) {
$aenderungen_tops .= "TOP entfernt: " . $top->top_nr . ":" . $top->top_betreff . "\n";
try {
$top->delete();
} catch (CDbException $e) {
$str = "Vermutlich verwaiste Dokumente (war zuvor: \"" . $top->getName() . "\" in " . $daten->getLink() . ":\n";
/** @var Dokument[] $doks */
$doks = Dokument::model()->findAllByAttributes(["tagesordnungspunkt_id" => $top->id]);
foreach ($doks as $dok) {
$dok->tagesordnungspunkt_id = null;
$dok->save(false);
$str .= $dok->getOriginalLink() . "\n";
}
RISTools::send_email(Yii::app()->params["adminEmail"], "StadtratTermin Verwaist", $str, null, "system");
$top->delete();
}
}
}
if ($aenderungen_tops != "") {
$changed = true;
}
if ($changed) {
if (!$alter_eintrag) {
$aenderungen = "Neu angelegt\n";
}
$aenderungen .= $aenderungen_tops;
echo "StR-Termin {$termin_id}: Verändert: " . $aenderungen . "\n";
if ($alter_eintrag) {
$alter_eintrag->copyToHistory();
$alter_eintrag->setAttributes($daten->getAttributes());
if (!$alter_eintrag->save(false)) {
RISTools::send_email(Yii::app()->params['adminEmail'], "Stadtratstermin: Nicht gespeichert", "StadtratTerminParser 1\n" . print_r($alter_eintrag->getErrors(), true), null, "system");
die("Fehler");
}
$daten = $alter_eintrag;
if ($geloescht) {
echo "Lösche";
if (!$daten->delete()) {
RISTools::send_email(Yii::app()->params['adminEmail'], "Stadtratstermin: Nicht gelöscht", "StadtratTerminParser 2\n" . print_r($daten->getErrors(), true), null, "system");
die("Fehler");
}
$aend = new RISAenderung();
$aend->ris_id = $daten->id;
$aend->ba_nr = NULL;
$aend->typ = RISAenderung::$TYP_STADTRAT_TERMIN;
$aend->datum = new CDbExpression("NOW()");
$aend->aenderungen = $aenderungen;
$aend->save();
return;
}
} else {
if (!$daten->save()) {
RISTools::send_email(Yii::app()->params['adminEmail'], "Stadtratstermin: Nicht gespeichert", "StadtratTerminParser 3\n" . print_r($daten->getErrors(), true), null, "system");
die("Fehler");
}
}
}
foreach ($dokumente as $dok) {
/** @var array $dok */
$aenderungen .= Dokument::create_if_necessary(Dokument::$TYP_STADTRAT_TERMIN, $daten, $dok);
}
if ($aenderungen != "") {
$aend = new RISAenderung();
$aend->ris_id = $daten->id;
$aend->ba_nr = NULL;
$aend->typ = RISAenderung::$TYP_STADTRAT_TERMIN;
$aend->datum = new CDbExpression("NOW()");
$aend->aenderungen = $aenderungen;
$aend->save();
/** @var Termin $termin */
$termin = Termin::model()->findByPk($termin_id);
$termin->datum_letzte_aenderung = new CDbExpression('NOW()');
// Auch bei neuen Dokumenten
$termin->save();
}
}