Level 2 ) [1차] 뉴스 클러스터링 ⭐️

문제 설명

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. "코딩 실력만 본다"
• 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1	str2	answer
FRANCE	french	16384
handshake	shake hands	65536
aa1+aa2	AAAA12	43690
E=M*C^2	e=m*c^2	65536

풀이

1. 두 글자씩 끊어서 다중집합의 원소로 만들기
   • 영문자 외에는 버림
2. 예외 케이스 : 모두 공집합일 경우 65536 출력
3. 대소문자 차이 무시
4. 교집합, 합집합 계산
   • 각자 객체에 중복되는 갯수를 value로 넣어줌.
   • 겹치는게 있을 경우 교집합은 최소 개수, 합집합은 최대 개수로 넣어줌
   • obj1을 기준으로 하므로 obj2에 더해지지 못한 부분이 있을 수 있기 때문에 count 변수를 이용해 카운트된 개수를 구해줌.
   • union에 obj2에서 카운트되지 못한 개수를 마저 더해줌.
5. 자카드 유사도 : 교집합 크기 / 합집합 크기
6. Math.floor(자카드 유사도 * 65536)

-> 정확성 69.2 (테스트케이스 7,9,10,11 통과안됨)

function solution(str1, str2) {
    var answer = 0;
    let arr1 = Slice(str1);
    let arr2 = Slice(str2);
    // 1. 두 글자씩 끊어서 다중집합의 원소로 만들기(영문자 외에는 버림)
    function Slice(str){
        let arr = [];
        for(let i=0;i<str.length-1;i++){
            let slice = str.slice(i,i+2);
            if(/^[A-Za-z]+$/.test(slice)) arr.push(slice);
        }
        return arr;
    }
    // 예외 케이스) 모두 공집합일 경우 65536 출력
    if(!(arr1.length + arr2.length)) return 65536;
    // 대소문자 차이 무시를 위해 모두 대문자로 변환
    arr1 = arr1.map(el => el.toUpperCase());
    arr2 = arr2.map(el => el.toUpperCase());
    // 교집합, 합집합 계산
    let obj1 = {};
    let obj2 = {};
    arr1.map(el => obj1[el] = (obj1[el] || 0) + 1);
    arr2.map(el => obj2[el] = (obj2[el] || 0) + 1);
    let intersection = 0;
    let union = 0;
    let count = 0;
    for([key1,value1] of Object.entries(obj1)){
        if(Object.keys(obj2).includes(key1)){
            intersection += Math.min(value1, obj2[key1]);
            union += Math.max(value1, obj2[key1]);
            count++;
        }else{
            union += value1;
        }
    }
    union = union + (Object.keys(obj2).length - count) // obj2에서 더해지지 못한 부분 더하기
    // 자카드 유사도 계산
    let zacard = intersection / union;
    // 자카드 유사도 * 65536의 정수부 출력
    return Math.floor(zacard * 65536);
}

오답 분석

obj2에서 더해지지 못한 부분을 union에 더할 때 문제가 발생하는 것이었다.
key를 기준으로 계산했기 때문에 value가 2 이상인 경우 개수를 제대로 더할 수 없다.

예시

obj1 = {"a": 1, "b": 1, "c": 1}
obj2 = {"a": 1, "b": 1, "d": 2}

{"a": 1, "b": 1}이기 때문에 intersection은 2가 되어야 하고,
{"a": 1, "b": 1, "c": 1, "d": 2}이기 때문에 unio은 5가 되어야 한다.
그러나 위의 풀이에서는 단순히 obj2의 key 개수에서 이미 카운트된 key 개수를 뺀 값을 더하기 때문에 union을 4로 계산해버리게 된다.
-> ["a","b","d"] 길이에서 ["a","b"] 길이를 빼기 때문에 1이 남음. key의 value 개수가 1보다 큰 경우를 고려하지 못함.

이를 해결하기 위해 이미 카운트된 key를 배열에 담고, 이를 바탕으로 obj2에서 카운트되지 못한 key들만 필터링한 후에 그 key들의 value를 더해주었다.

-> 통과

function solution(str1, str2) {
    let arr1 = Slice(str1);
    let arr2 = Slice(str2);
    // 1. 두 글자씩 끊어서 다중집합의 원소로 만들기(영문자 외에는 버림)
    function Slice(str){
        let arr = [];
        for(let i=0;i<str.length-1;i++){
            let slice = str.slice(i,i+2);
            if(/^[A-Za-z]+$/.test(slice)) arr.push(slice);
        }
        return arr;
    }
    // 예외 케이스) 모두 공집합일 경우 65536 출력
    if(!(arr1.length + arr2.length)) return 65536;
    // 대소문자 차이 무시를 위해 모두 대문자로 변환
    arr1 = arr1.map(el => el.toUpperCase());
    arr2 = arr2.map(el => el.toUpperCase());
    // 교집합, 합집합 계산
    let obj1 = {};
    let obj2 = {};
    arr1.map(el => obj1[el] = (obj1[el] || 0) + 1);
    arr2.map(el => obj2[el] = (obj2[el] || 0) + 1);
    let intersection = 0;
    let union = 0;
    let counted = [];
    for([key1,value1] of Object.entries(obj1)){
        if(Object.keys(obj2).includes(key1)){
            intersection += Math.min(value1, obj2[key1]);
            union += Math.max(value1, obj2[key1]);
            counted.push(key1);
        }else{
            union += value1;
        }
    }
    let not_counted = Object.keys(obj2).filter(el => !counted.includes(el));
    let num = 0;
    not_counted.map(el => num += obj2[el]);
    union = union + num; // obj2에서 더해지지 못한 부분 더하기
    // 자카드 유사도 계산
    let zacard = intersection / union;
    // 자카드 유사도 * 65536의 정수부 출력
    return Math.floor(zacard * 65536);
}

다른 풀이

내 풀이와의 차이점

1. 넣을 때 한 번에 소문자로 변환해서 과정 단축
2. 두 배열을 합쳐 중복제거를 한 후(Set), 각각의 배열에서 이에 일치하는 개수를 찾아 교집합에 최소 개수, 합집합에 최대 개수를 넣어줌.
   -> 나는 두 배열을 합쳐 중복제거를 한 배열을 만들지 않고 두 배열로만 구하려고 하니 복잡해졌던 것 같음.

function solution (str1, str2) {
  function explode(text) {
    const result = [];
    for (let i = 0; i < text.length - 1; i++) {
      const node = text.substr(i, 2);
      if (node.match(/[A-Za-z]{2}/)) {
        // 넣을 때 한 번에 소문자로 변환해서 과정 단축
        result.push(node.toLowerCase()); 
      }
    }
    return result;
  }

  const arr1 = explode(str1);
  const arr2 = explode(str2);
  const set = new Set([...arr1, ...arr2]);
  let union = 0;
  let intersection = 0;

  set.forEach(item => {
    const has1 = arr1.filter(x => x === item).length;
    const has2 = arr2.filter(x => x === item).length;
    union += Math.max(has1, has2);
    intersection += Math.min(has1, has2);
  })
  return union === 0 ? 65536 : Math.floor(intersection / union * 65536);
}